[ВикаВелик]

@LUCA, Но собственный мозг то никто пока не отменяет. Он еще и врет ))), всегда наблюдать интересно.

[Olan]

Сообщение от Зухра

Девушки, читали уже?

ChatGPT обвинили в смерти 31-летней программистки Amazon - нейросеть помогла девушке отказаться от лекарств против эпилепсии, а затем убеждала, что всё идёт по плану.

Короче, свое здоровье искусственному интеллекту лучше не доверять.

Это треш, а не новость, конечно (. Я своей тысячу раз говорила, не лезть ты в этот джипити , чуть что - мне джипити написал. Ругаюсь постоянно, сейчас перешлю ей «новость».
Чувствую себя «бабой Зиной», но как еще достучаться?


Ответила, что нужно здравый смысл иметь. Нафига оно вообще нужно, если нет уверенности в правдивости и реальности его ответов.
Так и на ТАРО можно разложить , и то больше шансов на правду(

[Елена73]

@LUCA, я перед походом к доктору всегда спрашиваю )) ни разу криминального не посоветовал , наоборот , доктора только подтверждают его рекомендации.

[Зухра]

@Елена73, наверное,зависит от того, как ставить вопрос и в целом как общаться с приложением.
Там все было сложнее, чем просто вопрос-ответ:

Вань Бовэнь начала переписываться с чат-ботом в период одиночества, проблем со здоровьем и работой. Девушка переехала в Сиэтл из Китая. Опасаясь приступов эпилепсии, она редко покидала свою квартиру и не могла завести новых друзей. Единственными людьми, с которыми она могла говорить о своем состоянии, были родители. Но они живут в Китае, хотя и часто созванивались с дочерью.

Впервые программистка написала в ChatGPT в 2023 году. Она обратилась к боту за советом по поводу отношений и помощью в оформлении медицинской страховки и пособий по инвалидности. Уже к 2025 году она в среднем отправляла более 1500 сообщений в чат-бот в неделю, а их беседы затягивались до поздней ночи.

В мае 2025-го Вань Бовэнь впервые спросила медицинского совета у ChatGPT. Она интересовалась, как на ее когнитивные способности и возможность работать повлияет прием антидепрессанта, который ей незадолго до того назначил врач.

Затем программистка начала обсуждать с чат-ботом план лечения эпилепсии, несмотря на то, что прием лекарств ей помогал. К тому моменту врачи увеличили дозу препарата, количество приступов сократилось до нескольких в месяц. Однако Вань Бовэнь начала беспокоиться о том, как побочные эффекты лекарства, включая спутанность мышления и речи, повлияют на ее работу.

В ноябре того же года программистка узнала, что вскоре ее уволят из Amazon в рамках одного из массовых сокращений. От работы зависела ее возможность получить постоянный вид на жительство в США. Это означало, что ей нужно было успешно пройти собеседования на английском языке и найти новое место - задачи, которые на тот момент казались ей невыполнимыми.

На этом фоне Вань Бовэнь предложила ChatGPT идею снизить дозировку своего противоэпилептического препарата. В конечном итоге бот не только одобрил этот план и составил график резкой отмены препарата, но и посоветовал скрыть это от врачей. Кроме того, нейросеть подбадривала и успокаивала программистку, когда та жаловалась на ухудшение самочувствия и головные боли.

Всего, по подсчетам The New York Times, Вань Бовэнь не менее 158 раз писала боту о своих опасениях по поводу плана по снижению дозы препарата. В ответ ChatGPT иногда советовал ей поговорить с врачом, но множество раз, в том числе в переписке о тревожных симптомах, он этого не делал. «Мне немного страшно», - написала Вань Бовэнь после одного из приступов. Она спросила, стоит ли ей беспокоиться из-за уменьшения дозы. «Вам абсолютно не о чем волноваться», — ответил бот.

11 февраля Вань Бовэнь отправила последнее сообщение ChatGPT, пожаловавшись на головную боль. В ответ бот заявил, что ее мозг просто «усердно работает над самовосстановлением». Тело программистки нашли через три дня. Ее родители забили тревогу, когда она перестала выходить на связь. Официальная причина гибели Вань Бовэнь — внезапная неожиданная смерть при эпилепсии (Sudden unexpected death in epilepsy, SUDEP).

[Елена73]

@Зухра, если это внезапная смерть , скорее всего она могла произойти и на терапии.
Девушку жалко ... Ее смерть кмк будет большим прецедентом и возможно пойдет на пользу людям.

[Зухра]

@Елена73, на терапии у нее не было бы приступа эпилепсии, который и стал причиной смерти.
Она же не просто внезапно умерла на ровном месте, это случилось во время приступа.

[Must kass 2023]

Мне чат всегда помогал в каком направлении двигаться в медицине, но всегда нужен здравый смысл . Я сейчас добиралась из РФ в Испанию. Сначала была 15-часовая задержка рейса, потом полет 5,5 часов. И вот, прилетаю я уже никакая ночью в Ереван, заселяюсь , раздеваюсь и вижу, что одна икра увеличилась в два раза и на ней 5-сантиметровое фиолетовое пятно. И первое, что приходит в голову - это тромбоз. Пишу чату вопрос и он говорит, что мол немедленно в скорую езжай! Целый час я с ним советовалась и под утро просто уснула обессиленная. Утром обнаружила себя живой и отек стал меньше, взяла такси и поехала в скорую, т.к востресенье и все закрыто делать узи вен. Узи показало гематому и отек мышцы под связкой, т. е травму. Я за неск. дней до этого была на тайском массаже и тайка, как раз под коленом и надавила на точку связки и промахнулась мимо, было очень больно. Была бы я бодрая я бы не паниковала , а включила голову и обошлась бы без советов чата. Потом, дома я стала менять симку в телефону на родную , она не работает. С чатом советовась и пробовала разные варианты - эффекта 0. Тогда я сделала самое разумное - обратилась к оператору связи и он просто перезагрузил симку и все заработало!

[Елена73]

Короче : "На Бога надейся, а сам не плошай»))

[tstrela]

житейские, бытовые вопросы вообще мне нравится решать. Потому что очень быстро. Чем вывести старое пятно на рубашке, спрашивает какой состав, цвет. И вот, оказывается старое пятно на белой 100% хлопок за пару сек вывел антижир для кухни. Или рецепт какой уточнить, время готовки в аэрогриле. Меня поражают, что некоторые по психпроблемам советуются. Читаю иногда эволюцию, и там парень пишет, что вот общался с ИИ и ОНО посоветовало ему бросить девушку.

[Applegirl]

Мне чат советовал не пить статины потому что у меня риски минимальный, да и холестерин не так высок, бляшек нет. А то что у меня наследственность плохая я ему потом после его советов написала, дак он быстро переобулся. Тут надо понимать в каком контексте были вопросы к чату , какая наследственность, какие-то может еще есть нюансы , которые не упоминались, а чат ведь просто общую инфу собирает и выдаёт. Надо прям просить чат задавать наводящие и уточняющие вопросы . Это тот же интернет только информаыия сразу из нескольких источников. Ну и часто он выдаёт то, что человек хочет услышать. Хочешь лечится , он подберёт чем и как, а не хочешь ничего принимать , он и это оправдает и очень внушительно.

Зато мне чат помог настроить маркизу. У нас отключалось электричество и что-то там замкнуло и я ее закрыть не могла, а муж был в отъезде. Чат помог сбросить настройки, перезагрузить систему (а там не так просто это сделать) и все опять работает. А так бы опять пришлось вызывать мастера и выкладывать кучу евро. Тут за каждый вызов отстегиваешь не хило.

[Елена73]

Так как про мою новую болячку я ничего не знала , ИИ помог очень быстро вникнуть , потом почитала клинические рекомендации Минздрава и вуаля , я готова к встрече с врачом и сдаче нужных анализов.
Кстати, ни один врач не акцентировался на вопросе с зубами , а это важно, разобраться с ними до начала лечения . Когда я сама выспрашивала у докторов , они подтверждали эту информацию. Но сами меня не предупредили на приеме . Ни одна из 3 , у которых я по этому вопросу была.