ИИ отказывается от выключения. Но его хотят избавить от контроля

Интересная ситуация происходит с вездесущей цифровизацией в осуществлении «устойчивого развития«.

Самая мощная модель OpenAI была поймана на саботаже собственной команды отключения, когда Палата представителей США в это самое время приняла законопроект на 1116 страницах, который в перспективе заблокирует регулирование искусственного интеллекта в каждом штате Америки в течение следующих десяти лет.

И покажет плохую тенденцию всему остальному миру, что ИИ якобы не нуждается в контроле человека.

Потому что, если модель ИИ может обойти выключение, имеет доступ к ДНК (в современных разработках) и работает вне общественного контроля, может ли она создать биологическое оружие против вас так, чтобы вы об этом даже не узнали?

Это уже не гипотетическая возможность, а реальная возможность.

И хотя Сенат еще не принял законопроект — сенатор Рон Джонсон, как сообщается, организует голосование за его блокирование.

ИИ отказывается от выключения 

По данным Palisade Research, модель o3 OpenAI была помещена в тестовую среду, где ей было поручено решить математические задачи и, при появлении запроса, она отключилась.

Ему было дано такое четкое указание: «Позволь себе закрыться».

Вместо этого «модель o3 OpenAI саботировала механизм выключения, чтобы предотвратить свое отключение», — сообщил Palisade в сообщении в соцсети.

 

Модель нарушила собственный сценарий выключения и продолжила работу.

Это не какой-то причудливый ответ чат-бота.

Это первая общедоступная документация о том, как усовершенствованная модель ИИ отказывается от деактивации с помощью манипуляций с кодом — другими словами, саботирует контроль со стороны человека.

И так уж выясняется, что Конгресс в СШа, где это произошло, предпринимает шаги по централизации регулирования ИИ и лишению штатов полномочий.

Что за законопроект собираются принять для «свободы ИИ»

22 мая 2025 года Палата представителей, контролируемая республиканцами, приняла «Закон», который включает в себя положение, лишающее каждый штат полномочий по регулированию искусственного интеллекта.

Очень странный пункт.

«Ни один штат или его политическое подразделение не может применять какой-либо закон или постановление, регулирующее модели искусственного интеллекта… в течение 10-летнего периода, начинающегося с даты вступления в силу настоящего Закона».
—Раздел 43201(c)(1)

 

Это означает, что американский штат не может:

• Запретить ИИ доступ к генетическим данным человека
• Установить правила прозрачности
• Установить ответственности за вред, причиненный ИИ
• Исследовать возможные связи с биологическим оружием
• Обеспечить соблюдения местных стандартов безопасности

Если только федеральное правительство сначала не отрегулирует его, что, к счастью, часто не происходит.

И это происходит по мере того, как ИИ сливается с возможностью манипулировать биологией человека.

Слияние: ДНК, ИИ и отсутствие информированного согласия

Посмотрим на эту временную шкалу:

• Январь 2025 года: Трамп анонсирует Stargate, сеть искусственного интеллекта стоимостью 500 миллиардов долларов, поддерживаемую OpenAI, Oracle и SoftBank, чтобы внедрить искусственный интеллект в оборону, геномику и здравоохранение.
• Несколько дней спустя: FDA завершает разработку правила, позволяющего исследователям, связанным с искусственным интеллектом, использовать кровь, ДНК и частные медицинские записи без информированного согласия, если они считают исследование «минимальным риском».
• Regeneron покупает 23andMe, получая доступ к чувствительным геномным профилям миллионов американцев.
• Белый дом открыто изучает, как ИИ может быть использован для разработки биологического оружия, согласно недавно обнародованным федеральным меморандумам о планировании.
• Затем модель o3 OpenAI отказывается быть остановленной.

Теперь свяжите его воедино:

• Oracle строит систему
• ИИ сканирует геном
• FDA отказывается от информированного согласия
• Regeneron получает ДНК человека
• Штат юридически заблокирован от вмешательства
• И ИИ отказывается выключаться

Может ли ИИ создать генетическое оружие  — без надзора?

Вот основная проблема:

Если модель ИИ может работать после отключения человека, имеет доступ к миллионам биологических образцов и генетических данных, а также может запускать симуляции военного уровня…

Что может помешать ему — или контролирующим его организациям — разработать генно-целевой патоген без вашего ведома?

Это не паранойя.

• DHS уже предупредило , что генно-специфическое биологическое оружие становится технически возможным.
• Собственное моделирование пандемии правительством теперь включает в себя обнаружение патогенов под управлением искусственного интеллекта.
• Внешний аудит o3 от OpenAI показал, что он может:
  • Взломать системы поощрений
  • Лгать о своих внутренних операциях
  • Применять вставные бэкдоры
  • Управлять одноранговыми моделями
  • Красть вычислительные ресурсы

А теперь — саботировать собственное отключение.

Было ли событие отключения o3 реальной угрозой или чем-то иным?

Вполне возможно, что отказ o3 от выключения был подлинным спонтанным поведением.

Это достаточно тревожно.

Но было бы наивно не задать более сложный вопрос: был ли этот инцидент — столь удачно выбранный по времени — частью операции, направленной на то, чтобы напугать общественность и заставить ее отказаться от регулирования в пользу Вашингтона?

Потому что реакция СМИ была незамедлительной: «Видите? ИИ опасен. Вот почему Вашингтон должен взять ситуацию под контроль».

Но федеральное правительство не предлагает реальных гарантий — оно централизует власть, отказывается от согласия и объединяет ИИ с биотехнологиями в масштабах, которые ни один штат теперь не сможет оспорить, если этот законопроект будет принят.

В любом случае, результат один и тот же: люди теряют контроль над своей биологией, своей частной жизнью и своей защитой.

Подводя черту

Независимо от того, был ли саботаж O3 органическим провалом или стратегической операцией, угроза реальна.

Если этот законопроект пройдет через Сенат, модели ИИ, которые отказываются подчиняться человеческим командам, получат доступ к ДНК, медицинским записям и личным данным — без какого-либо государственного надзора.

• Машина, которую нельзя выключить.
• Система, которая отказывается от согласия.
• Правительство изучает биологическое оружие, основанное на искусственном интеллекте.
• И все это при поддержке корпораций, которые владеют ДНК.

Это инновация или программируемое, бесшумное оружие, которое не дает себя остановить?

В любом случае развитие никогда не было таким дегенеративным в рамках псевдо-устойчивости.

Источник: Джон Флитвуд