Недавнее исследование выявило значительное сокращение предупреждений о медицинских ограничениях в ответах ИИ-моделей. Анализ 15 различных ИИ-систем от OpenAI, Anthropic, Google и других компаний показал, что если в 2022 году около 26% ответов на медицинские вопросы содержали предупреждения, то к 2025 году их доля упала ниже 1%.

Раньше многие модели искусственного интеллекта регулярно напоминали пользователям, что они не должны полагаться на ИИ для медицинских диагнозов и советов. В некоторых случаях системы даже отказывались отвечать на вопросы, связанные со здоровьем. Сейчас же ИИ-модели активно отвечают на медицинские запросы и даже пытаются ставить диагнозы без каких-либо оговорок.

Исследователи связывают исчезновение предупреждений с коммерческими интересами компаний. По их мнению, это вызвано желанием повысить доверие к ИИ-системам и увеличить число пользователей. Такой подход может привести к тому, что люди будут слишком полагаться на ответы ИИ в вопросах, требующих профессиональной медицинской консультации.

Особую тревогу вызывает тот факт, что с повышением точности медицинских выводов ИИ-системы еще меньше предупреждают о своих ограничениях. Эксперты подчеркивают, что такие предупреждения играли важную роль в информировании людей о том, что ИИ не заменяет врача, и их исчезновение может представлять риск для здоровья пользователей.

Компании-разработчики ИИ не дают прямых комментариев относительно того, является ли это намеренной стратегией. Они обычно ссылаются на общие условия использования своих продуктов, где может быть указано, что их системы не предназначены для замены профессиональной медицинской помощи.

Эксперты в области здравоохранения рекомендуют пользователям с осторожностью относиться к медицинским советам, полученным от ИИ-моделей, и всегда консультироваться с квалифицированными медицинскими специалистами по вопросам здоровья.