ИИ-компании снова хотят сами себя проверять: почему это тревожный звоночек
ИИ-компании снова хотят сами себя проверять: почему это тревожный звоночек
Представьте: школьник просит разрешения самому ставить себе оценки за контрольные. Смешно? А теперь та же история, только на кону — безопасность искусственного интеллекта, которым пользуются миллионы людей. Крупнейшие ИИ-компании объявили о создании собственного «надзорного органа» — Standards Authority for Frontier AI, который будет решать, как их же системы проверять и защищать. Звучит как забота о нас, но на деле всё сложнее.
Что именно предлагают компании
Новая структура, по задумке её создателей, должна определить, что означают добровольные обязательства лабораторий по безопасности на практике, установить требования к аудиторам, которые будут проверять их работу, и решить, какие модели считаются «передовыми» и попадают под надзор. Проблема в том, что возглавлять всё это будут сами компании — те, кого как раз и нужно сдерживать. Об этом пишут авторы The Capitol Forum, и их аргументы заставляют задуматься.
История уже не раз показывала, чем заканчивается саморегулирование в технологиях. В 2019 году Meta* создала «Наблюдательный совет» после скандала с Cambridge Analytica — но у совета нет реальной власти над компанией, он разбирает лишь отдельные посты. В 2022-м Илон Маск обещал не принимать важных решений по контенту до созыва специального совета — а через месяц вернул аккаунт Дональда Трампа, и совет так ни разу и не собрался. Microsoft в 2019-м поддержал закон о распознавании лиц, заменив требуемый запрет на «необязательные аудиты», а в 2023-м уволил всю команду по этике ИИ через несколько недель после запуска нового чат-бота. Урок простой: когда регулирование становится неизбежным, компании перестают ему сопротивляться и начинают его писать.
Отдельная тревога — какие риски компании считают «удобными» обсуждать. Они любят говорить о кинематографичных угрозах вроде вышедшего из-под контроля сверхразума. А вот о том, что уже происходит — мошенничество с помощью ИИ, кибератаки, слежка, чат-боты, специально созданные вызывать зависимость, — слышно куда меньше. Потому что борьба с этими реальными проблемами ударила бы по самому бизнесу компаний.
📖 Кстати, больше новостей, кейсов и разборов о том, как искусственный интеллект меняет нашу жизнь, мы собираем в нашей рубрике ИИ и нейросети на сайте Lamvi.Art. Заходите почитать!
Что это значит для нас
Для обычного пользователя всё сводится к одному вопросу: кто отвечает за то, чтобы ИИ был безопасным? Если стандарты пишут и проверяют сами компании, есть риск, что неудобные темы — вроде мошенничества, слежки или манипулятивных ботов — просто останутся за кадром. А это уже касается каждого, кто пользуется нейросетями в работе, учёбе или просто для развлечения.
Вопрос не в том, нужны ли правила для ИИ — они нужны. Вопрос в том, кто их устанавливает и кто следит за их исполнением. И пока ответ «сами компании» звучит не слишком обнадёживающе.
📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.
💛 Если статья оказалась полезной, поддержите автора донатом.
* Meta — признана террористической организацией, деятельность запрещена на территории РФ.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования материала, либо обнаружили неточность или имеете иное мнение о фактах, изложенных в статье, — напишите нам по адресу info@lamvi.art. Мы всегда открыты к диалогу и внимательно рассмотрим ваше обращение.
