Отцы нейросетей и ИИ теперь хотят сильно затормозить прогресс по абсурдным и надуманным причинам
23 октября в 10:36
5285
19

Основатели ИИ-индустрии бьют тревогу: Стив Возняк (Apple), Джеффри Хинтон и Йошуа Бенжио (отцы нейросетей) среди сотен подписантов открытого письма о запрете сверхразума ИИ. Инициатор — Future of Life Institute.
Авторы признают пользу технологий, но предупреждают о катастрофических рисках неконтролируемых экспериментов. Требуют паузу в разработках до доказанной безопасности и готовности общества. Подписанты разношёрстны: учёные, политики, музыканты, члены королевских семей — всех пугает неуправляемый разум.
Контекст: Инновационные инструменты ИИ могут принести беспрецедентное здоровье и процветание. Однако, наряду с инструментами, многие ведущие компании в области ИИ ставят своей заявленной целью создание сверхразума в ближайшее десятилетие, способного значительно превзойти людей практически во всех когнитивных задачах.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Другие публикации по теме
Джефф Кили объявил номинантов TGA 2025: фаворит — Clair Obscur: Expedition 33 (сюжет, музыка, атмосфера). GOTY: Death Stranding 2, Hollow Knight: Silksong, Hades II, Kingdom Come: Deliverance II, Donkey Kong Bananza (спасибо Nintendo!). Один из топ-списков! Голосование на сайте, церемония 11 декабря.
Вчера в 21:23
603
2
На приобретение Warner Bros. нацелились Paramount и Netflix, но кажется, все шансы есть и у Comcast, владеющей NBCUniversal: глава компании Брайан Робертс побывал в Саудовской Аравии.
Вчера в 21:07
315
1
Microsoft проведет Xbox Partner Preview 20 ноября и представит игры от партнеров вроде IOI, Tencent и THQ Nordic: в меню новости, анонсы (в том по Game Pass), глубокие погружения и закулисные истории.
Вчера в 19:36
198
2