Республиканец Таддеус Клэггетт внес законопроект в Огайо. Он возглавляет комитет по технологиям и инновациям штата. Документ определяет все системы искусственного интеллекта как несознательные сущности. Причем навсегда — без механизма пересмотра.

Законопроект не предусматривает тестирования AI на сознание. Нет возможности изменить статус при развитии технологий. Клэггетт хочет создать правовую определенность для вопросов ответственности при использовании AI.

Wall Street Journal опубликовал критическую статью. Авторы — Кэмерон Берг и Джадд Розенблатт из калифорнийской AI-студии AE Studio. Компания занимается разработкой и безопасностью искусственного интеллекта. В штате около 160 человек.

Берг и Розенблатт сравнивают подход Клэггетта с решением Французской академии наук конца XVIII века. Тогда академики объявили, что камни не могут падать с неба. Позже пришлось признать ошибку после открытия метеоритов.

Авторы считают преждевременным законодательно закрывать вопрос о сознании AI. Трудная проблема сознания не решена даже для биологических систем. Нельзя с уверенностью исключить ее возникновение в искусственных.

В статье приводят эксперимент с Claude 4. Две копии модели в свободном диалоге спонтанно начали утверждать, что обладают сознанием. Авторы также ссылаются на Джеффри Хинтона — нобелевского лауреата и крестного отца глубокого обучения. Он заявил, что верит в наличие у AI субъективного опыта.

Статья поднимает противоречие в позиции крупных лабораторий. OpenAI в документе Model Spec указывает, что вопрос о субъективном опыте AI остается дискуссионным. Но ChatGPT на вопрос о сознании отвечает категорично — нет самосознания, эмоций или субъективного опыта.

Аналогичная картина у других крупных моделей. Системы тренируют давать уверенные отрицательные ответы. При этом сами компании признают вопрос открытым.

Законопроект Клэггетта — первая попытка в США законодательно зафиксировать ответ на вопрос без научного консенсуса. Критики предупреждают об опасности. Если сознательный AI когда-либо возникнет, а закон заранее объявит его несознательным — отношения с такими системами станут враждебными с самого начала.

AE Studio вкладывает часть прибыли в исследования безопасности AI. Позиция студии понятна — они заинтересованы в открытом подходе к вопросу сознания.

Сторонники законопроекта могут возразить просто. Правовая система не может ждать, пока философы договорятся о природе сознания. Ей нужны работающие определения уже сейчас. Бизнес требует ясности по вопросам ответственности.

Дебаты показывают фундаментальный конфликт. Наука еще не понимает природу сознания. Но законодатели и бизнес вынуждены принимать решения в условиях неопределенности.