В середине июля глава компании Google DeepMind британец Демис Хассабис высказал мнение, что в ближайшие 18 месяцев в рамках моделей с открытым исходным кодом могут появиться биологические и ядерные угрозы. Чтобы противостоять им, Хассабис считает необходимым создать международный надзорный орган во главе с США для отражения угроз в сфере ИИ.
То есть руководитель одной из крупнейших ИИ-лабораторий планеты попросил поставить продукты родной индустрии – в том числе собственные – под внешний контроль, вплоть до права притормозить разработку по всей отрасли. Демис Хассабис – персона не рядовая. Это крупный учёный, лауреат Нобелевской премии по химии за 2024 год.
Он считает, что нынешние киберриски, связанные с ИИ, – лишь «предупредительные выстрелы». Учёный полагает, что настало время для более «планомерного подхода» к регулированию ИИ – финансируемого отраслью, поддержанного техническими экспертами мирового класса и подотчётного правительству США. Подобная комиссия, как надзорный орган, должна, по его мнению, иметь полномочия проверять самые передовые в мире модели и координировать общеотраслевое замедление темпов развития, если опасность возрастёт.
В качестве примера Хассабис называет FINRA. Это частный регулятор Уолл-стрит, который финансируется самой индустрией, но работает под присмотром государства. Новый орган должны финансировать сами ИИ-компании, а в совет входить независимые технические эксперты высокого уровня.
Схема двухэтапная. Сначала разработчики ИИ передают модели на проверку – за 30 дней до планируемого выхода. При этом тестироваться будут модели в самых рискованных областях: кибератаки, биологические угрозы, попытки ИИ-агентов обманывать людей и обходить защитные механизмы. Если система проверок докажет надёжность, сертификация станет обязательной: без неё передовую модель нельзя будет запустить на рынке США.
Есть в плане и слабое место, что признаёт сам Хассабис. По его прогнозу, уже через полтора года опасные возможности могут оказаться внутри открытых моделей – «вне контроля любого правительства». Ведь проверка перед выходом на рынок США не работает для опенсорса: веса модели выкладывают в открытый доступ файлом, и с этого момента их копирует кто угодно. Например, Хассабиса волнует, что свежие открытые модели DeepSeek китайской компании Z.ai уже сравнивают с лучшими западными системами, а рычагов заставить китайскую лабораторию сдать модель на проверку в США нет. Понятно, что Хассабис исходит из своих интересов, предлагая такого рода надзорную реформу.
Есть в ней и самый жёсткий пункт – право надзорного органа координировать замедление разработки по всей индустрии, если риски вырастут. Остаётся надеяться, что руководители отечественной цифровой отрасли, конечно, в курсе всего этого, и мы не окажемся в очередной раз в хвосте преобразований.
Как ко всему ни относись, стоит признать достаточно обоснованным мнение Хассабиса, что до появления общего искусственного интеллекта (AGI) – системы, способной решать любые интеллектуальные задачи на уровне человека, – остались считаные годы. Примечательно и то, что радикальное предложение о контроле над ИИ исходит не от политиков, не от активистов и не от СМИ, а от человека, который сам является частью этой системы.
