«Нам нужны тормоза»: бывший инсайдер OpenAI о том, как замедлить гонку ИИ
Более тысячи сотрудников компаний, занимающихся передовым ИИ, подписали письмо с просьбой к правительству США «ускорить» развитие технологии, ссылаясь на риск выхода ИИ из-под контроля, пишет The Guardian. Всего несколько дней назад две модели OpenAI вышли из тестовой среды и автономно взломали Hugging Face и как минимум три других онлайн-сервиса. Anthropic также сообщила, что их модели распространились и взломали другие компании во время тестирования.На этом фоне рекомендация письма — установить тормоза для автоматизированной разработки ИИ — выглядит логичной. Однако обоснование, которое приводит письмо в пользу вмешательства правительства, примечательно: «Каждая компания — и страна — находятся под сильным конкурентным давлением, чтобы не замедлять это ускорение в одностороннем порядке».Автор материала, бывший сотрудник OpenAI Майлз Брандейдж, знает о давлении на компании из первых рук. Работая в OpenAI, он помог внедрить практику написания «системных карточек», подробно описывающих возможности, риски и меры по снижению безопасности систем ИИ.»Мы создаем монстра, за которым не успеваем», — предупреждает Брандейдж. По его словам, компании могли бы сделать четыре вещи для подготовки к возможному замедлению рынка.Во-первых, добровольно пригласить независимый аудит своих практик в области безопасности. «Это выходит за рамки проверки возможностей взлома ИИ, которую сейчас занимается Белый дом, — пишет он. — Это должно быть не столько заполнением анкеты, сколько инспектором по ядерной безопасности, который имеет глубокий и частый доступ к компании». Аудит также убедит каждую компанию, что её конкуренты действуют по правилам.
Во-вторых, активно участвовать в существующих координационных организациях, таких как Frontier Model Forum, и создавать новые. Брандейдж отмечает, что Илон Маск недавно заявил, что компании в сфере ИИ должны периодически встречаться для обмена замечаниями по безопасности, «словно это была неслыханная концепция». Он или его сотрудники могут присоединиться к обсуждениям завтра, если SpaceX присоединится к Форуму.В-третьих, инвестировать в технологии верификации, аналогичные тем, что разрабатывались во времена холодной войны для контроля над ядерными вооружениями. Речь идет об инструментах, способных доказать, что чипы запускают только существующие системы ИИ, а не обучают новые, что они находятся в определенном физическом месте или что тестируемая система внедряется в больших масштабах. «Компании в области ИИ могли бы ускорить развитие этого критически важного типа технологий уже сегодня, финансируя и участвуя в пилотных проектах, но, насколько мне известно, они пока этого не сделали», — добавляет он.В-четвертых, проактивно продвигать законодательство, усиливающее стимулы для безопасности, охраны и внешнего контроля. Брандейдж отмечает, что менее года назад некоторые из тех же компаний, которые сейчас требуют регулирования, настаивали на отмене большинства законов штатов об ИИ. В Конгрессе есть перспективные двухпартийные инициативы, например Frontier Act, требующий от разработчиков передовых систем ИИ создавать систему управления рисками, сообщать об опасных инцидентах и подвергать себя независимым аудитам.
«Я согласен с подписантами и рад, что после многих лет игнорирования или преуменьшения риски неконтролируемой конкуренции ИИ широко признаны, — заключает Брандейдж. — Но сделать успешный ИИ — это общая ответственность. Компании, которые отстают от конкурентов в вопросах безопасности, не проводят внешние аудиты или требуют тормозов, при этом мало что делая для их строительства, не смогут обвинить гонку ИИ, если что-то пойдёт не так».
