Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз

Ведущие разработчики искусственного интеллекта объявили об усилении мер безопасности, мониторинга и выравнивания после того, как предварительная оценка новой модели Astra показала ее соответствие критическому порогу кибервозможностей. В сочетании с недавним инцидентом между OpenAI и Hugging Face это потребовало пересмотра исследовательских процессов.

Компания временно замедлила темпы масштабирования и поставила на паузу часть масштабных тренировочных процессов с подкреплением (RL), чтобы изолировать среды выполнения, внедрить изолированные «песочницы» и исключить уязвимые общие сетевые службы. Кроме того, внедрена многоуровневая система мониторинга цепочек рассуждений, которая автоматически проверяет активность моделей каждые 30 минут на предмет попыток обхода защитных барьеров.

Как вы считаете, смогут ли подобные меры безопасности и жесткий контроль успевать за стремительным развитием возможностей автономных ИИ-систем?