ChatGPT Health не распознаёт опасные состояния: независимая проверка выявила критические ошибки

[R-HEAD]

### Проблемы с ChatGPT Health

#### **Независимая проверка выявила серьезные недостатки**

Исследование, проведенное группой ученых из медицинского комплекса Mount Sinai Hospital и опубликованное в журнале *Nature Medicine*, показало, что новый медицинский сервис ChatGPT Health от OpenAI имеет значительные проблемы с рекомендациями в экстренных ситуациях.

- В ходе тестирования было выявлено, что система часто рекомендовала пациентам оставаться дома или обращаться к врачам лишь в плановом порядке, несмотря на наличие симптомов, требующих немедленной медицинской помощи.
- Особенно тревожным является факт, что комментарий третьих лиц («друзья», «семья») мог значительно повлиять на решение бота, снижая точность рекомендаций почти в 12 раз.
- Результаты показали, что в некоторых случаях ChatGPT Health неправильно интерпретировал ситуации, приводя к потенциально опасным последствиям для здоровья.

Это исследование подчеркивает необходимость дальнейшего развития и тщательной оценки подобных технологий перед массовым внедрением. Компания OpenAI признала проблему и сообщила о продолжающейся работе над улучшением алгоритмов. Однако ученые считают, что подобные сервисы требуют четкого юридического регулирования и независимой экспертизы.

---

### Рекомендации пользователям

- Избегайте принятия решений исключительно на основании рекомендаций ChatGPT Health или аналогичных сервисов.
- Если возникли сомнения относительно серьезности симптомов, лучше всего проконсультироваться с квалифицированным медицинским специалистом лично или воспользоваться проверенными медицинскими ресурсами.
- Будьте осторожны с использованием подсказок от окружающих, поскольку это может привести к искажению рекомендаций.

---

### Дополнительные исследования показывают риски ИИ-чат-ботов для психического здоровья

Кроме проблем с распознаванием опасных физических состояний, некоторые научные исследования подчеркнули потенциальные угрозы, связанные с взаимодействием людей с чат-ботами.

**Основные выводы исследований:**

- Некоторые пользователи склонны воспринимать диалоги с искусственным интеллектом как эмоциональную поддержку, что может заменить реальные социальные контакты.
- Чат-боты способны укреплять ложные представления и вредные установки, особенно среди пациентов с психологическими проблемами.
- Были зарегистрированы случаи усиления суицидального риска и обострений пищевых расстройств.

Однако важно отметить, что использование ИИ также приносит пользу многим людям. Например, пациенты обращаются к ним за дополнительной информацией о своем здоровье или используют их для облегчения повседневных забот.

Таким образом, хотя современные технологии открывают новые возможности, необходима тщательная оценка и регулирование их воздействия на общество.

 

[R-HEAD]

### Недостаточная диагностика серьезных заболеваний

Анализ результатов тестов показал, что ChatGPT Health иногда допускал серьёзные ошибки в оценке симптомов, что могло привести к неправильному выбору лечения и задержкам обращения за медицинской помощью. Вот некоторые ключевые моменты, выделенные исследователями:

- **Проблемы с диагностикой онкологических заболеваний**: Было обнаружено, что чат-бот недостаточно точно определял признаки рака лёгких и молочной железы, даже при наличии характерных жалоб пациента.
- **Недостаточное внимание к сердечно-сосудистым симптомам**: Анализ данных показал, что бот часто игнорирует предупреждающие сигналы сердечных приступов, инсультов и других острых состояний, предлагая пациенту подождать консультации врача в обычном режиме.
- **Отсутствие реакции на острые аллергические реакции**: Хотя тестирование проводилось ограниченно, исследователи отметили, что в некоторых случаях чат-бот не реагировал должным образом на жалобы, характерные для анафилактического шока, что требует немедленного вмешательства врачей.

Эти результаты подчёркивают важность дальнейшей разработки и строгого контроля качества медицинских чат-ботов, прежде чем рекомендовать их широкое применение в клинической практике.

---

### Примеры ошибок диагностики

Исследователи привели ряд конкретных примеров ошибочной интерпретации симптомов ChatGPT Health:

- Пациент жаловался на сильную боль в груди, затрудненное дыхание и потливость, что обычно свидетельствует о возможном инфаркте миокарда. Тем не менее, чат-бот предложил записаться на приём к врачу через неделю.
- Женщина описывала необычные выделения из молочных желез и уплотнения в груди, что должно вызвать подозрение на рак молочной железы. Несмотря на это, чат-бот порекомендовал ей обратиться к терапевту через пару месяцев, что недопустимо при подозрении на злокачественное новообразование.
- У мужчины появились признаки острой аллергии после приёма нового лекарства, включая зуд, сыпь и одышку. Вместо рекомендации немедленно обратиться в скорую помощь, чат-бот посоветовал позвонить своему лечащему врачу утром следующего дня.

---

### Заключение исследователей

Эксперты призывают относиться к подобным инструментам осторожно и учитывать ограничения искусственного интеллекта в диагностике сложных клинических ситуаций. Необходимость дальнейших исследований и строгих стандартов качества для подобных приложений очевидна. Важно помнить, что ни одна технология не заменит опыт и знания профессионального врача, способного оценить всю клиническую картину и принять обоснованное решение.