Вышел AI Safety Report 2026 — самый полный отчет о рисках и возможностях современного ИИ. В составлении участвовали более 100 ученых из ведущих организаций 30 стран. Комиссию возглавил Йошуа Бенджио.

Полный документ занимает более 200 страниц анализа. Авторы также выпустили расширенное саммари на 20 страниц со всеми основными графиками.

Предсказать развитие ИИ к 2030 году очень сложно. Эксперты говорят об этом прямо, основываясь на фактах без домыслов. Возможны как небольшие улучшения, так и стремительный рост.

Маловероятно, что к 2030 году ИИ-пузырь лопнет. Компании продолжат привлекать капитал. Алгоритмы станут эффективнее. Мощности будут расти.

Есть узкие места — данные и энергия. Сейчас продолжительность задач в разработке ПО, которые выполняют ИИ-агенты, удваивается примерно каждые семь месяцев. Если темп сохранится, к 2030 году ИИ сможет надежно выполнять задачи, которые у людей занимают дни и недели. Но вероятно будет нестабилен в нестандартных ситуациях.

Отчет делит риски на три уровня. От злонамеренного использования, от сбоев и ошибок систем, и системные социальные риски.

Сейчас опаснее всего масштабирование мошенничества и влияния на общественное мнение с помощью ИИ. Сюда входит deepfake-контент. Также угрожают кибератаки и галлюцинации. Основная опасность — системы выглядят умнее и надежнее, чем они есть на самом деле.

На горизонте нескольких лет угрожает снижение барьера для биологических и химических угроз. Только потом появление автономных, трудно контролируемых систем.

Есть политические риски. В первую очередь централизация власти. Страны и организации без собственного ИИ-стека станут структурно зависимыми.

Пока нет доказательств массового эффекта ИИ на рынок труда. В ряде профессий наблюдается снижение занятости у молодых специалистов. Но пока без алармизма.

Массовой безработицы ожидать не стоит. Нужно бояться социальной и экономической поляризации общества. Спрос на средний класс специалистов резко упадет. На сильнейших — резко вырастет.

Предсказать трудно. Это первый случай в истории, когда автоматизация бьет по когнитивному труду раньше физического. Плюс ИИ распространяется гораздо быстрее интернета или компьютеров в свое время.

Сильнее прочего людям угрожает атрофия навыков и эрозия ответственности, включая юридическую. Возможно массовое снижение навыков критического мышления.