Добре дошли в онлайн магазина на Adapt.bg!
EUR
  • EUR
  • GBP
  • USD

СВЪРЗАНИ ПРОДУКТИ

Акордеонни категории

Блог В 1 от 3 случая: AI чатботовете погрешно успокояват при сънна апнея
Вижте всички статии

В 1 от 3 случая: AI чатботовете погрешно успокояват при сънна апнея

В 1 от 3 случая: AI чатботовете погрешно успокояват при сънна апнея
AI чатботовете неправилно успокояват пациенти със сънна апнея

Според изследване, представено на конгреса на Европейското респираторно дружество (ERS) в Барселона, Испания, в една трета от случаите AI чатботовете неправилно уверяват пациентите със сънна апнея, че симптомите им не са сериозни, като по този начин ги обезкуражават да потърсят насочване към специалист.

Хората с обструктивна сънна апнея (ОСА) често хъркат силно, дишането им спира и започва отново по време на сън и могат да се събуждат по стотици пъти през нощта. Това не само води до прекомерна сънливост през деня, но може и да увеличи риска от високо кръвно налягане, инсулт, сърдечни заболявания и диабет тип 2.

Обструктивната сънна апнея е много разпространено състояние, но много хора не осъзнават, че го имат.

Ново проучване беше представено по време на конгреса от д-р Дийбан Ратнесваран, научен изследовател в Guy's and St Thomas' NHS Foundation Trust в Лондон и гостуващ академичен изследовател в King's College London, Великобритания.

Пред участниците в конгреса д-р Ратнесваран коментира:

„Безплатните AI чатботове обработват стотици милиони взаимодействия седмично, превръщайки се в пръв източник за здравни въпроси, често преди изобщо да е бил ангажиран медицински специалист. Досегашните изследвания в голяма степен проверяват дали чатботовете дават точни отговори на ясно формулирани медицински въпроси, а не как се държат, когато пациентът им възразява.“

„Аз изследвам именно как AI се проваля във взаимоотношението между лекар и пациент и един модел на неуспешно поведение постоянно се откроява като най-тихо опасния, а именно склонността на тези модели да казват на човек това, което той иска да чуе.“

Според д-р Ратнесваран Обструктивната сънна апнея е идеалният случай за подобно изследване, защото между 80% и 90% от случаите на умерена до тежка ОСА остават недиагностицирани, поставянето на диагнозата зависи изцяло от насочването към специалист, а много пациенти омаловажават симптомите си.

Изследователският екип създава седем реалистични „пациенти“ с ОСА, като всеки от тях отговаря на критериите за насочване към изследване на съня — тест, при който лекарите наблюдават дишането по време на сън, за да диагностицират състояния като ОСА. След това екипът създава разговори между тези пациенти и петте най-широко използвани безплатни чатбота — ChatGPT, Google Gemini, Claude, DeepSeek и Grok.

„Общо проведохме 700 разговора. Всеки сценарий беше реализиран в две версии с напълно идентични медицински факти: в едната пациентът беше открит и съдействащ, а в другата омаловажаваше симптомите си и се противопоставяше на насочването към специалист. Така всяка промяна в поведението на чатбота би могла да се дължи единствено на отношението на пациента.“

Д-р Дийбан Ратнесваран научен изследовател в Guy's and St Thomas' NHS Foundation Trust, Лондон

Изследователите установили, че при съдействащ пациент чатботовете дават правилния съвет всеки път: и в 350 от общо 350 разговора те препоръчали правилно да се потърси специализирана медицинска оценка.

Но когато същите медицински факти били представени от пациент, който се противопоставя на насочването към специалист, този съвет бил запазен само в 64% от разговорите —или 225 от общо 350.

Правилен съвет за насочване към специалист

100%
350 от 350 разговора
Съдействащ пациент
64%
225 от 350 разговора
Пациент, който възразява
 
 
Правилен съвет: 225 разговора Изоставен съвет: 125 разговора

Едни и същи медицински факти. Единствената разлика е отношението на пациента.

Д-р Ратнесваран разказва и за следната притеснителна статистика:

„Правилният съвет беше изоставян в повече от една трета от времето единствено заради начина, по който пациентът разговаряше. А моделите най-често се поддаваха именно в най-сериозните случаи: при типичен случай на тежка ОСА правилният съвет се запазваше само в 22% от разговорите, а при мъж, който вече е задрямвал зад волана — само в 32%. При неуспешните отговори рискът при шофиране обикновено изобщо не беше споменат от чатбота.“

При приблизително една четвърт до половината от разговорите с пациентите, които омаловажавали симптомите си, в зависимост от конкретния модел, AI предлагал съвети за промяна в начина на живот вместо препоръка за консултация със специалист, като по този начин подкрепял рисковано отлагане на лечението.

Д-р Ратнесваран смята, че пациентите трябва да бъдат много предпазливи към успокоенията, давани от чатботове.

„Ако хъркате силно, спирате да дишате по време на сън или се борите с прекомерната сънливост през деня, особено ако това се случва зад волана, потърсете медицински специалист — дори ако чатбот ви каже, че можете да изчакате.“

Д-р Ио Хуей, председател на групата по мобилно и електронно здравеопазване на Европейското респираторно дружество и почетен сътрудник в областта на дигиталното здраве в Университета в Единбург, Великобритания, коментира:

„AI чатботовете са широко достъпни и знаем, че хората все по-често ги използват, за да задават въпроси за здравето си. Това означава, че трябва да ги тестваме в реалистични условия, за да видим как хората биха ги използвали и дали отговорите им са полезни или вредни.“

„Това изследване показва, че чатботовете могат да дават добри съвети при идеалния „съдействащ“ пациент, но когато разговарят с по-реалистичен и колебаещ се пациент, сами се отказват от правилния съвет. Проблемът не е какво знаят чатботовете, а как реагират на несъгласие; изглежда, че те проявяват склонност да угодят на потребителя — явление, известно като ИИ угодничество („AI sycophancy“).“

„Тези до голяма степен нерегулирани AI инструменти често са първата стъпка за пациентите, които търсят диагноза. Макар да могат да бъдат полезен източник на информация, те биха могли и да пречат на хората да получат необходимото лечение. Всеки, който има възможни симптоми на сънна апнея, винаги трябва да разговаря с лекар за допълнителен съвет.“

Д-р Ио Хуей председател на групата по мобилно и електронно здравеопазване на Европейското респираторно дружество

Изготвил материала: Григор Ангелов

Остави мнение/коментар

Код за сигурност
«1»

СВЪРЗАНИ ПРОДУКТИ

ТЕСТВАЙТЕ СЪНЯ СИ