Риски развития технологий: эксперты настаивают на научных стандартах и независимом аудите систем ИИ

Более ста ведущих экспертов и независимых оценщиков искусственного интеллекта объединились в рамках консорциума AI Evaluator Forum, чтобы заявить о нехватке ресурсов и защитных механизмов для полноценного тестирования передовых моделей. В опубликованном письме, подписанном в том числе Джеффри Хинтоном, специалисты требуют от создателей базовых моделей обеспечить научную объективность, прозрачность и защиту от возможных репрессий или судебных исков.

Поводом для дискуссии стали недавние предложения о предоставлении независимым исследователям привилегированного доступа к закрытым разработкам и внутренним системам компаний. Однако эксперты отмечают, что для реальной независимости аудита необходимы четкие стандарты, исключающие конфликты интересов, гарантирующие свободу публикации результатов и защищающие проверяющих от давления со стороны технологических гигантов.