Хуанг допустил отключение опасных ИИ-разработчиков от чипов Nvidia

Глава Nvidia Дженсен Хуанг готов прекратить поставки ускорителей компаниям, которые разрабатывают небезопасный искусственный интеллект. Но пока это лишь возможный сценарий: в интервью Bloomberg предприниматель подчеркнул, что сначала поговорил бы с клиентом. Он также напомнил, что Nvidia не управляет чужими компаниями, а её чипы подходят для самых разных задач.

Здесь возникает проблема: производитель поставляет вычислительную инфраструктуру, но не может автоматически контролировать все способы её применения. При этом Nvidia - один из ключевых поставщиков ускорителей для обучения и запуска ИИ-моделей. Поэтому решение ограничить доступ к её оборудованию могло бы стать серьёзным инструментом влияния на разработчиков. Однако Хуанг не назвал критериев, по которым компания определяла бы опасность проекта, и не сообщил о реальном отключении какого-либо клиента.

Вместо замедления отрасли глава Nvidia предлагает развивать защиту параллельно с возможностями ИИ. Компания подкрепила этот подход конкретным шагом: выделила британским исследователям вычислительные ресурсы стоимостью $250 млн на пять лет. Это не денежный грант, а доступ к мощностям через облачных партнёров Nvidia в Великобритании - по $50 млн в год.

Исследования затронут безопасность ИИ-агентов, защиту открытых моделей и проверку систем, способных самостоятельно выполнять действия. В частности, учёные смогут изучать защищённые среды для запуска агентов и разрабатывать тесты для оценки рисков. Работы охватят проекты Оксфордского университета, Университетского колледжа Лондона и Имперского колледжа Лондона.

Получается двойственная позиция: Nvidia готова ограничить поставки в крайнем случае, но одновременно стремится сделать развитие ИИ безопаснее с помощью исследований и новых инструментов. Пока неясно, как компания будет определять опасного клиента. И именно этот вопрос - кто устанавливает границы допустимого использования ИИ - остаётся главным в заявлении Хуанга.