Искусственный интеллект (ИИ) может уничтожить человечество уже к 2027 году. К такому выводу пришел исследователь американской компании Anthropic Джейкоб Коксон. По его словам, гонка технологий стремительно приближает нас к точке невозврата, за которой может последовать глобальная катастрофа.

Компания Anthropic, чья капитализация может достигать 2 триллионов долларов, после ухода Коксона из компании провела дополнительное стресс-исследование. Его результат: вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие уже превысила 10%. Об этом заявил руководитель проводившей стресс-тестирование группы Alignment Science в компании Эван Хьюбингер на своей страничке в соцсети X.

Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество!

По мнению Хьюбингера, наибольшие опасения вызывают системы «суперинтеллекта» («сверхинтеллекта»), которые могут развиваться совершенно самостоятельно, в то время как существующие разработки в области ИИ серьезной угрозы не несут.

Эван Хьюбингер добавил, что Anthropic пытается решить проблему согласования целей «суперинтеллектов» с интересами человека, но пока готового способа сделать это нет. По его словам, скорость развития технологий оказалась намного выше прежних ожиданий.

Ранее россиян предупредили об опасности слепого доверия к нейросетям. Эксперт компании «Газинформсервис» Ирина Меженева пояснила, что нейросети – прежде всего коммерческий продукт, созданный для того, чтобы к нему чаще обращались, но сегодня его используют не всегда во благо.

Сейчас модели искусственного интеллекта не только успешно решают «задачи тысячелетия» — проблемы существования и гладкости решений уравнений Навье–Стокса или расшифровывают криптограмму шотландского писателя Томаса Уркхарта, которая оставалась неразгаданной с 1653 года, но и активно вырываются с экспериментальных площадок и взламывают внешние базы данных, устраивая хакерские атаки на различные интернет-ресурсы.