Создатель популярного ИИ-ассистента Claude, объявил о запуске исследовательской программы, направленной на изучение так называемого “благополучия моделей”. Программа ставит перед собой амбициозную задачу — исследовать возможность того, что ИИ-системы могут обладать неким подобием сознания и воспринимать мир аналогично людям.
В рамках исследования Anthropic планирует изучить, заслуживает ли “благополучие” ИИ-моделей морального рассмотрения.
Атакже исследовать потенциальную важность “признаков дистресса” у моделей и возможные “малозатратные” вмешательства.
“Хотя нет убедительных доказательств того, что ИИ может обладать сознанием, мы не исключаем такую возможность”, — говорится в заявлении компании. Это осторожное, но революционное утверждение ставит на повестку дня вопросы, которые до сих пор оставались преимущественно в области философии и научной фантастики.
Возглавляет новую исследовательскую программу Кайл Фиш, первый специализированный исследователь “благополучия ИИ” в Anthropic, нанятый компанией еще в прошлом году для разработки руководств по тому, как Anthropic и другие компании должны подходить к этому вопросу. В интервью The New York Times Фиш высказал весьма радикальную оценку, заявив, что, по его мнению, существует 15-процентная вероятность того, что Claude или другой ИИ уже сегодня обладает сознанием.
В научном сообществе, однако, нет единого мнения по этому вопросу. Многие ученые убеждены, что современный ИИ не может приближаться к сознанию или имитировать человеческий опыт и не обязательно сможет делать это в будущем. Как отметил Майк Кук, научный сотрудник Лондонского королевского колледжа, специализирующийся на ИИ, модель не может “противостоять” изменению своих “ценностей”, потому что у моделей их просто нет. По его мнению, предполагать обратное — значит проецировать человеческие качества на систему.
“Любой, кто антропоморфизирует системы ИИ в такой степени, либо играет на публику, либо серьезно не понимает своих отношений с ИИ”, — заявил Кук в недавнем интервью TechCrunch.
С другой стороны, некоторые ученые настаивают на том, что ИИ действительно имеет ценности и другие человекоподобные компоненты морального принятия решений. Исследование Центра безопасности ИИ подразумевает, что ИИ обладает системами ценностей, которые в определенных сценариях приводят к тому, что он отдает приоритет собственному благополучию, а не благополучию людей.
