Отцы нейросетей и ИИ теперь хотят сильно затормозить прогресс по абсурдным и надуманным причинам
Основатели ИИ-индустрии бьют тревогу: Стив Возняк (Apple), Джеффри Хинтон и Йошуа Бенжио (отцы нейросетей) среди сотен подписантов открытого письма о запрете сверхразума ИИ. Инициатор — Future of Life Institute.
Авторы признают пользу технологий, но предупреждают о катастрофических рисках неконтролируемых экспериментов. Требуют паузу в разработках до доказанной безопасности и готовности общества. Подписанты разношёрстны: учёные, политики, музыканты, члены королевских семей — всех пугает неуправляемый разум.
Контекст: Инновационные инструменты ИИ могут принести беспрецедентное здоровье и процветание. Однако, наряду с инструментами, многие ведущие компании в области ИИ ставят своей заявленной целью создание сверхразума в ближайшее десятилетие, способного значительно превзойти людей практически во всех когнитивных задачах.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Другие публикации по теме
Команда Team RICOCHET опубликовала подробный отчет о продолжающейся борьбе с создателями запрещенного ПО в экосистеме Call of Duty.
Сегодня в 16:00
22
0
Компания OpenAI объявила об изменении подхода к информированию общественности и теперь намерена оперативно сообщать о случаях неожиданного поведения своих ИИ-моделей во время тестирования.
Сегодня в 13:03
195
2
В недавнем материале издания Edge ветераны видеоигровой индустрии, включая Харви Смита, Таню Х. Шорт и Рафа Костера, обсудили глубокий кризис, охвативший рынок.
Сегодня в 12:52
212
2