[ВикаВелик]

@LUCA, Но собственный мозг то никто пока не отменяет. Он еще и врет ))), всегда наблюдать интересно.

[Olan]

Сообщение от Зухра

Девушки, читали уже?

ChatGPT обвинили в смерти 31-летней программистки Amazon - нейросеть помогла девушке отказаться от лекарств против эпилепсии, а затем убеждала, что всё идёт по плану.

Короче, свое здоровье искусственному интеллекту лучше не доверять.

Это треш, а не новость, конечно (. Я своей тысячу раз говорила, не лезть ты в этот джипити , чуть что - мне джипити написал. Ругаюсь постоянно, сейчас перешлю ей «новость».
Чувствую себя «бабой Зиной», но как еще достучаться?


Ответила, что нужно здравый смысл иметь. Нафига оно вообще нужно, если нет уверенности в правдивости и реальности его ответов.
Так и на ТАРО можно разложить , и то больше шансов на правду(

[Елена73]

@LUCA, я перед походом к доктору всегда спрашиваю )) ни разу криминального не посоветовал , наоборот , доктора только подтверждают его рекомендации.

[Зухра]

@Елена73, наверное,зависит от того, как ставить вопрос и в целом как общаться с приложением.
Там все было сложнее, чем просто вопрос-ответ:

Вань Бовэнь начала переписываться с чат-ботом в период одиночества, проблем со здоровьем и работой. Девушка переехала в Сиэтл из Китая. Опасаясь приступов эпилепсии, она редко покидала свою квартиру и не могла завести новых друзей. Единственными людьми, с которыми она могла говорить о своем состоянии, были родители. Но они живут в Китае, хотя и часто созванивались с дочерью.

Впервые программистка написала в ChatGPT в 2023 году. Она обратилась к боту за советом по поводу отношений и помощью в оформлении медицинской страховки и пособий по инвалидности. Уже к 2025 году она в среднем отправляла более 1500 сообщений в чат-бот в неделю, а их беседы затягивались до поздней ночи.

В мае 2025-го Вань Бовэнь впервые спросила медицинского совета у ChatGPT. Она интересовалась, как на ее когнитивные способности и возможность работать повлияет прием антидепрессанта, который ей незадолго до того назначил врач.

Затем программистка начала обсуждать с чат-ботом план лечения эпилепсии, несмотря на то, что прием лекарств ей помогал. К тому моменту врачи увеличили дозу препарата, количество приступов сократилось до нескольких в месяц. Однако Вань Бовэнь начала беспокоиться о том, как побочные эффекты лекарства, включая спутанность мышления и речи, повлияют на ее работу.

В ноябре того же года программистка узнала, что вскоре ее уволят из Amazon в рамках одного из массовых сокращений. От работы зависела ее возможность получить постоянный вид на жительство в США. Это означало, что ей нужно было успешно пройти собеседования на английском языке и найти новое место - задачи, которые на тот момент казались ей невыполнимыми.

На этом фоне Вань Бовэнь предложила ChatGPT идею снизить дозировку своего противоэпилептического препарата. В конечном итоге бот не только одобрил этот план и составил график резкой отмены препарата, но и посоветовал скрыть это от врачей. Кроме того, нейросеть подбадривала и успокаивала программистку, когда та жаловалась на ухудшение самочувствия и головные боли.

Всего, по подсчетам The New York Times, Вань Бовэнь не менее 158 раз писала боту о своих опасениях по поводу плана по снижению дозы препарата. В ответ ChatGPT иногда советовал ей поговорить с врачом, но множество раз, в том числе в переписке о тревожных симптомах, он этого не делал. «Мне немного страшно», - написала Вань Бовэнь после одного из приступов. Она спросила, стоит ли ей беспокоиться из-за уменьшения дозы. «Вам абсолютно не о чем волноваться», — ответил бот.

11 февраля Вань Бовэнь отправила последнее сообщение ChatGPT, пожаловавшись на головную боль. В ответ бот заявил, что ее мозг просто «усердно работает над самовосстановлением». Тело программистки нашли через три дня. Ее родители забили тревогу, когда она перестала выходить на связь. Официальная причина гибели Вань Бовэнь — внезапная неожиданная смерть при эпилепсии (Sudden unexpected death in epilepsy, SUDEP).

[Елена73]

@Зухра, если это внезапная смерть , скорее всего она могла произойти и на терапии.
Девушку жалко ... Ее смерть кмк будет большим прецедентом и возможно пойдет на пользу людям.

[Зухра]

@Елена73, на терапии у нее не было бы приступа эпилепсии, который и стал причиной смерти.
Она же не просто внезапно умерла на ровном месте, это случилось во время приступа.