Microsoft переводит часть запросов в Excel и Word на собственные модели MAI, чтобы сократить расходы на облачные ИИ-сервисы. OpenAI остаётся для сложных задач.
Администрация США планирует распространить действующую систему добровольной предварительной проверки кибербезопасности на открытые модели искусственного интеллекта, как только те достигнут возможностей передовых закрытых аналогов. Об этом сообщает Wired со ссылкой на источники, знакомые с ходом обсуждений, и официального представителя Белого дома. Речь идёт о включении в программу моделей, сопоставимых по мощности с Anthropic Mythos и OpenAI GPT-5.6. Это не просто «очередной регуляторный акт», а попытка предотвратить потенциальные угрозы, которые могут возникнуть при широком распространении мощных ИИ.
На данный момент добровольная схема работает исключительно для закрытых систем американских разработчиков. Её механизм предусматривает, что компания может передать модель федеральному правительству не позднее чем за 30 дней до публичного выпуска. За этот срок государство проводит оценку продвинутых кибервозможностей модели по закрытой системе бенчмарков. При этом указ чётко оговаривает: процедура не является лицензированием или разрешительным режимом — она не запрещает и не ограничивает разработку, публикацию или распространение ИИ-систем. Это создает правовую основу для проверки без излишнего бюрократизма.
Для открытых моделей предрелизное тестирование приобретает принципиально иной смысл. После публикации их веса становятся общедоступными — любой желающий может скачать, модифицировать и запустить модель без участия разработчика. Попытки ограничить такую систему уже после релиза технически сложны, а зачастую и вовсе бессмысленны. Именно поэтому оценить её до того, как она окажется в открытом доступе, критически важно. Это может стать ключевым отличием от закрытых систем, где контроль возможен и после релиза.
Впрочем, прохождение федеральной проверки не гарантирует безопасность конкретного применения. Уровень риска при эксплуатации модели зависит от множества факторов: сетевых настроек, прав доступа, подключённых инструментов агентного уровня, источников данных и общей архитектуры. Это означает, что даже проверенная модель может быть опасна в неправильных руках или при неправильной настройке. Сравнение с конкурентами здесь показательно. В Европе и Китае также рассматривают меры регулирования ИИ, но подходы различаются. США делают ставку на добровольность и предварительную проверку, что может стать золотой серединой между свободой и безопасностью.
В итоге, планы Белого дома по проверке открытых ИИ-моделей до релиза — это важный шаг к созданию более безопасной экосистемы. Если эта инициатива будет реализована, она может снизить риски злоупотреблений и укрепить доверие к ИИ-технологиям. Однако для достижения этих целей необходимо разработать чёткие критерии и процедуры, которые не будут сдерживать инновации. А пока — это еще один шаг к тому, чтобы сделать ИИ более подконтрольным, сохраняя при этом открытость и конкурентоспособность. Остается только наблюдать за развитием этой инициативы и тем, как она повлияет на индустрию.
Об авторе
