Дарио Амодеи требует права блокировать небезопасный искусственный интеллект после запуска Claude Fable 5
Генеральный директор Anthropic Дарио Амодеи призвал ввести обязательное независимое тестирование самых продвинутых ИИ-моделей, а также предоставить государствам полномочия блокировать системы, которые не пройдут проверки на безопасность.
Эти предложения содержатся в эссе Policy on the AI Exponential, опубликованном на следующий день после релиза Claude Fable 5. В тот же день компания представила законопроект о тестировании моделей и подход к проблеме вытеснения работников.
Дарио Амодеи делает ставку не на прозрачность, а на строгие обязательные правила
В 2025 году Anthropic поддерживала законы, направленные на раскрытие информации: SB 53 в Калифорнии, RAISE Act в Нью-Йорке и SB 315 в Иллинойсе. Однако, по словам Амодеи, простого раскрытия данных уже недостаточно для соответствия новым рискам.
Он предлагает ввести систему, подобную порядкам Федерального управления гражданской авиации США (FAA). Модели, ресурсы которых превышают установленный порог, должны проходить независимый аудит по четырем направлениям.
Речь идет о кибербезопасности, угрозах с применением биологического оружия, рисках потери контроля и автоматизированных исследованиях в области ИИ.
«Передовые модели искусственного интеллекта, как и авиалайнеры, должны проходить технико-безопасностные тесты и аудит. Если они не отвечают высоким стандартам безопасности, их выпуск нужно блокировать или отзывать как угрозу общественной безопасности», — написал Амодеи в своем эссе.
Следите за нашими новостями в X, чтобы быть в курсе всех событий
В предлагаемой Амодеи системе правил предусмотрено больше, чем в июньском постановлении Белого дома по искусственному интеллекту — сам он назвал тот шаг лишь промежуточным прогрессом.
Также он выступил за оперативное раскрытие инцидентов, связанных с безопасностью, и строгую защиту весов моделей.
Киберугрозы ставят под удар криптоинфраструктуру
По словам Амодеи, именно кибербезопасность становится первой реальной угрозой. Он напомнил о том, что Claude Mythos Preview смогла решить 73% сложных киберзадач по экспертному уровню, с которыми ранее не справлялись другие ИИ.
В эссе говорится, что самые продвинутые ИИ-модели способны нарушить стабильность финансового сектора и критической инфраструктуры.
Редакция BeInCrypto тоже предупреждала о рисках для безопасности сектора DeFi, которые несут модели класса Mythos. Дело в том, что протоколы децентрализованных финансов (DeFi) содержат открытые для атак активы.
Тем временем Anthropic выпустила модель Claude Fable 5 9 июня — с механизмами, блокирующими опасные запросы, связанные с кибербезопасностью и биологическими угрозами.
Амодеи считает, что добровольные ограничения не могут заменить строгие и обязательные для всех правила на уровне отрасли.
Он также предупредил о рисках, связанных с автономностью. По данным самой Anthropic, уже сейчас ИИ создает более совершенные версии ИИ: в крупных лабораториях Claude пишет большую часть кода.
Потеря рабочих мест, гражданские свободы и демократический альянс
В экономике эссе предлагает страхование заработной платы, налоговые льготы для удержания сотрудников и гранты на переподготовку кадров.
Если массовое высвобождение работников затянется, по мнению Амодеи, можно ввести универсальный базовый доход за счет налога на компании или налога на прирост капитала.
Программа защиты гражданских свобод также сформулирована четко. Амодеи предлагает запретить полностью автономное оружие для нужд правоохранительных органов внутри страны. Кроме того, он призвал Конгресс устранить лазейку для брокеров данных, которая сегодня позволяет закупки больших массивов информации для тотального слежения.
В области геополитики он выступает за альянс демократических стран для контроля над производством чипов и оборудования для выпуска полупроводников.
В качестве первых шагов к более жестким и скоординированным экспортным ограничениям он ссылается на находящиеся в рассмотрении законы США MATCH и OVERWATCH.
Амодеи отверг тезис о том, что общественный страх перед ИИ объясняется только маркетинговыми ошибками, и назвал эти опасения обоснованными. То, возьмется ли Конгресс за инициативу Anthropic по тестированию, может определить, каким будет следующий этап регулирования ИИ.
The post Дарио Амодеи требует права блокировать небезопасный искусственный интеллект после запуска Claude Fable 5 appeared first on BeInCrypto.