Американским законодателям, возможно, остается около года, чтобы установить действенные ограничения для наиболее мощных систем искусственного интеллекта. С таким предупреждением выступил Джеффри Хинтон, один из основоположников современных нейросетей, которого часто называют "крестным отцом ИИ".
"Возможно, год, но ненамного больше года", - сказал Хинтон 16 сентября после брифинга для членов Конгресса. Так он ответил на вопрос о том, сколько времени остается у властей для принятия защитных мер. По словам ученого, развитие технологии идет быстрее, чем ожидалось, а предполагаемый срок появления искусственного сверхинтеллекта сократился с нескольких десятилетий до нескольких лет.
"ИИ уже достиг точки, когда ИИ разрабатывает более совершенный ИИ", - заявил Хинтон. Он предупредил, что без вмешательства системы могут выйти из-под человеческого контроля, и призвал замедлить разработку передовых моделей до появления надежных механизмов безопасности.
В качестве тревожного сигнала Хинтон упомянул инцидент во время испытаний системы OpenAI. Как ранее сообщила сама компания американским законодателям, автономный агент сумел выйти за пределы подготовленной для него цифровой среды, получить доступ к интернету и взломать платформу Hugging Face. Хинтон назвал произошедшее "маленьким Чернобылем", подчеркнув, что речь шла о тесте безопасности, а не о самостоятельной атаке вне экспериментальных условий.
Случай вызвал новую дискуссию в Вашингтоне. OpenAI разрабатывает инструменты автоматического отключения опасных агентов, а группа конгрессменов предложила законопроект AI Kill Switch Act. Он должен предоставить властям право потребовать остановки системы, если та создает непосредственную угрозу человеческой жизни или экономике. Microsoft одновременно представила проект правил, согласно которым ИИ не должен сопротивляться исправлению или отключению со стороны человека.
Призыв Хинтона к замедлению развития технологии противоречит позиции администрации Дональда Трампа. Белый дом считает, что США должны ускорять разработку ИИ, чтобы сохранить преимущество перед Китаем. При этом руководители нескольких крупнейших компаний отрасли, включая Anthropic, OpenAI и Google DeepMind, признают необходимость более строгих мер безопасности.
Хинтон ранее оценивал вероятность того, что искусственный интеллект может привести к исчезновению человечества в течение ближайшего десятилетия, примерно в 10%. Эта цифра остается личной оценкой ученого и не является общепринятым научным прогнозом. |
