Отцы нейросетей и ИИ теперь хотят сильно затормозить прогресс по абсурдным и надуманным причинам

5285
19
Отцы нейросетей и ИИ теперь хотят сильно затормозить прогресс по абсурдным и надуманным причинам

Основатели ИИ-индустрии бьют тревогу: Стив Возняк (Apple), Джеффри Хинтон и Йошуа Бенжио (отцы нейросетей) среди сотен подписантов открытого письма о запрете сверхразума ИИ. Инициатор — Future of Life Institute. 

Авторы признают пользу технологий, но предупреждают о катастрофических рисках неконтролируемых экспериментов. Требуют паузу в разработках до доказанной безопасности и готовности общества. Подписанты разношёрстны: учёные, политики, музыканты, члены королевских семей — всех пугает неуправляемый разум. 

Контекст: Инновационные инструменты ИИ могут принести беспрецедентное здоровье и процветание. Однако, наряду с инструментами, многие ведущие компании в области ИИ ставят своей заявленной целью создание сверхразума в ближайшее десятилетие, способного значительно превзойти людей практически во всех когнитивных задачах. 

Это вызвало обеспокоенность, начиная от экономической ненужности и лишения власти людей, потери свободы, гражданских прав, достоинства и контроля, до рисков национальной безопасности и даже потенциального исчезновения человечества. Приведенная ниже краткая формулировка призвана консолидировать растущее число экспертов и общественных деятелей, выступающих против безоглядной гонки к сверхразуму.
Другие публикации по теме
Стали известны все номинанты на звание лучших игр года по версии The Game Awards 2025
Стали известны все номинанты на звание лучших игр года по версии The Game Awards 2025
Джефф Кили объявил номинантов TGA 2025: фаворит — Clair Obscur: Expedition 33 (сюжет, музыка, атмосфера). GOTY: Death Stranding 2, Hollow Knight: Silksong, Hades II, Kingdom Come: Deliverance II, Donkey Kong Bananza (спасибо Nintendo!). Один из топ-списков! Голосование на сайте, церемония 11 декабря.
Вчера в 21:23
603
2
Форум
Ради Зака Снайдера в DC? Саудиты решили помочь Comcast купить Warner Bros.
Ради Зака Снайдера в DC? Саудиты решили помочь Comcast купить Warner Bros.
На приобретение Warner Bros. нацелились Paramount и Netflix, но кажется, все шансы есть и у Comcast, владеющей NBCUniversal: глава компании Брайан Робертс побывал в Саудовской Аравии.
Вчера в 21:07
315
1
Форум
Шэдоухарт проведет Xbox Partner Preview с 007 First Light и Tides of Annihilation 20 ноября
Шэдоухарт проведет Xbox Partner Preview с 007 First Light и Tides of Annihilation 20 ноября
Microsoft проведет Xbox Partner Preview 20 ноября и представит игры от партнеров вроде IOI, Tencent и THQ Nordic: в меню новости, анонсы (в том по Game Pass), глубокие погружения и закулисные истории.
Вчера в 19:36
198
2
Форум