AI shifokor kabinetiga yo’lda bo’lishi mumkin, ammo u bemorlarni ko’rishga tayyor emas

Biror narsani o'ylab topadigan, sir saqlay olmaydigan, hech narsani bilmaydigan va gapirayotganda oldingi so'zlarga asoslanib keyingi so'zni to'ldiradigan odam uchun sog'liqni saqlashdan qanday foyda bo'lishi mumkin? Ko'p, agar u sun'iy intellektning eng yangi shakli bo'lsa, u erdagi eng yirik kompaniyalarning fikriga ko'ra.

“generativ AI” deb nomlanuvchi so‘nggi sun’iy intellekt texnologiyasini joriy etuvchi kompaniyalar: Google va Microsoft katta til modellari deb atalmish turlarini sog'liqni saqlashga olib kelmoqchi. Oq xalat kiygan odamlarga tanish bo'lgan yirik firmalar - lekin sizning o'rtacha Jou va Jeyningizga nisbatan kamroq - bir xil ishtiyoqda: Elektron tibbiy yozuvlar gigantlari Epic va Oracle Cerner ham ortda emas. Bo'sh joy ham startaplar bilan gavjum.

Kompaniyalar o'zlarining sun'iy intellektlari shifokorlar uchun eslatma olishlarini va ularga ikkinchi fikr bildirishlarini xohlashadi - agar ular mumkin bo'lsa. razvedkani "gallyutsinatsiya" dan saqlang” yoki, shuning uchun bemorlarning shaxsiy ma'lumotlarini oshkor qilish.

San-Diegodagi Skripps tarjimonlik instituti direktori Erik Topol: "Bu juda hayajonli narsa bor", dedi. "Uning imkoniyatlari oxir-oqibat katta ta'sir ko'rsatadi." Topol, boshqa ko'plab kuzatuvchilar singari, bemor ma'lumotlarining sizib chiqishi kabi qancha muammolarni keltirib chiqarishi va qanchalik tez-tez bo'lishi mumkinligi haqida hayron bo'ladi. "Biz aniqlaymiz."

Bunday muammolar xayoloti 1000 dan ortiq texnologiya rahbarlarini ilhomlantirdi ochiq xatga imzo chekish Mart oyida kompaniyalar ilg'or AI tizimlarini ishlab chiqishni to'xtatib turishga chaqirib, "biz ularning ta'siri ijobiy bo'lishiga va ularning xavflarini boshqarish mumkinligiga aminmiz". Shunga qaramay, ularning ba'zilari AI korxonalariga ko'proq pul sarflashmoqda.

Asosiy texnologiya matn yoki boshqa ma'lumotlarning katta qismlarini sintez qilishga tayanadi - masalan, ba'zi tibbiy modellar 2 million intensiv terapiya bo'limi eslatmalariga tayanadi Bostondagi Beth Israel Deaconess tibbiyot markazidan - berilgan so'rovdan keyin keladigan matnni bashorat qilish. Bu g'oya ko'p yillar davomida mavjud edi, ammo oltin shov-shuvi va uning atrofidagi marketing va media mania yaqinda paydo bo'ldi.

G'azab 2022 yil dekabr oyida boshlangan Microsoft tomonidan qo'llab-quvvatlanadigan OpenAI va uning asosiy mahsuloti ChatGPT, u savollarga vakolat va uslub bilan javob beradi. Bu, masalan, sonetda genetikani tushuntirishi mumkin.

Sem Altman, Elon Mask va Rid Xoffman kabi Silikon vodiysi elitalari tomonidan asos solingan OpenAI tadqiqot korxonasi sifatida investorlar cho'ntagiga ishtiyoqni olib keldi. Korxona murakkab, gibrid maqsadli va notijorat tuzilmasiga ega. Lekin Microsoft-dan 10 milliard dollarlik yangi moliyalashtirish davri OpenAI qiymatini 29 milliard dollarga oshirdi, Bu haqda Wall Street Journal xabar berdi. Hozirda kompaniya o'z texnologiyasini Microsoft kabi kompaniyalarga litsenziyalamoqda va obunalarni iste'molchilarga sotmoqda. Boshqa startaplar AI transkripsiyasi yoki boshqa mahsulotlarni shifoxona tizimlariga yoki to'g'ridan-to'g'ri bemorlarga sotishni ko'rib chiqmoqda.

Giperbolik tirnoq hamma joyda mavjud. Sobiq moliya vaziri Larri Summers yaqinda tvit qildi: "Bu shifokorlar qilayotgan ishning o'rnini bosadi - simptomlarni eshitish va tashxis qo'yish - bu hamshiralarning ishini o'zgartirishdan oldin - bemorlarga o'rnidan turishga va kasalxonada o'zini tutishga yordam beradi."

Ammo OpenAI yana bir katta pul infuzionini olganidan bir necha hafta o'tgach, hatto uning bosh direktori Altman ham shov-shuvlardan ehtiyot bo'ldi. "Ushbu tizimlar haqidagi shov-shuv - hatto biz umid qilayotgan hamma narsa uzoq muddatli bo'lsa ham - qisqa muddatda butunlay nazoratdan tashqarida" dedi u The New York Times gazetasining martdagi maqolasi uchun.

Sog'liqni saqlash sohasida kam odam AIning ushbu so'nggi shakli o'z ishlarini boshlash arafasida ekanligiga ishonishadi (garchi ba'zi kompaniyalar chatbotlar bilan tajriba o'tkazayotgan bo'lsa-da terapevt sifatida harakat qilish yoki g'amxo'rlik qilish bo'yicha ko'rsatmalar). Shunday bo'lsa-da, texnologiyaga ishonadiganlar bu ularning ishining ba'zi qismlarini ancha osonlashtiradi deb o'ylashadi.

Montana shtatining Billings shahridagi psixiatr Erik Arzubi kasalxona tizimi uchun boshqa psixiatrlarni boshqarar edi. Vaqti-vaqti bilan u hali qaydlarini tugatmagan provayderlar ro'yxatini oladi - bemorning ahvoli haqida xulosalar va davolanish rejasi.

Ushbu eslatmalarni yozish sog'liqni saqlash tizimidagi katta stress omillaridan biridir: umumiy holda, bu ma'muriy yuk. Ammo kelajakdagi provayderlar va, albatta, sug'urtachilar uchun rekordni ishlab chiqish kerak.

"Odamlar hujjatlashtirishda ancha orqada qolsa, bu muammolarni keltirib chiqaradi", dedi Arzubi. "Agar bemor kasalxonaga kirsa nima bo'ladi va u erda to'ldirilmagan eslatma bo'lsa va biz nima bo'layotganini bilmasak?"

Yangi texnologiya bu yuklarni engillashtirishga yordam berishi mumkin. Arzubi Nabla Copilot deb nomlangan xizmatni sinovdan o'tkazmoqda, u bemorning virtual tashriflari qismiga kiradi va keyin ularni avtomatik tarzda umumlashtiradi, shikoyat, kasallik tarixi va davolash rejasini standart eslatma formatida tartibga soladi.

Natijalar 50 ga yaqin bemordan so'ng aniq bo'ldi, dedi u: "Bu yo'lning 90 foizi". Copilot Arzubi odatda tahrir qiladigan xizmat ko'rsatuvchi xulosalarni ishlab chiqaradi. Xulosalar og'zaki bo'lmagan ishoralarni yoki Arzubi aytmoqchi bo'lmagan fikrlarni qabul qilishi shart emas. Shunday bo'lsa-da, uning so'zlariga ko'ra, yutuqlar sezilarli: u eslatma olishdan tashvishlanishga hojat yo'q va o'rniga bemorlar bilan gaplashishga e'tibor qaratishi mumkin. Va u vaqtni tejaydi.

"Agar men 15 bemorni ko'rishim mumkin bo'lgan to'liq bemor kunim bo'lsa, bu kun oxirida yaxshi soatni tejaydi, deb aytardim", dedi u. (Agar texnologiya keng miqyosda qo'llanilsa, u kasalxonalar ko'proq bemorlarni rejalashtirish orqali tejalgan vaqtdan foydalanmaydi deb umid qiladi. “Bu adolatdan emas”, dedi u.)

Nabla Copilot - bu yagona xizmat emas; Microsoft xuddi shu kontseptsiyani sinab ko'rmoqda. Sog'liqni saqlash sohasidagi axborot va boshqaruv tizimlari jamiyatining aprel oyida bo'lib o'tgan konferentsiyasida - sog'liqni saqlash bo'yicha mutaxassislar g'oyalarni almashtiradigan, e'lonlar chiqaradigan va o'z mahsulotlarini sotadigan sanoat konfabi - Evercore sarmoyaviy tahlilchilari ma'muriy yukni kamaytirishni yangi texnologiyalar uchun eng katta imkoniyat sifatida ta'kidladilar.

Ammo umuman olganda? Ular aralash sharhlarni eshitdilar. Va bu fikr keng tarqalgan: ko'plab texnologlar va shifokorlar ikki tomonlama.

Misol uchun, agar siz tashxis qo'yishdan hayron bo'lsangiz, ushbu dasturlardan biriga bemor ma'lumotlarini kiritish "ikkinchi fikrni berishi mumkin, shubhasiz", dedi Topol. "Ishonchim komilki, klinisyenlar buni qilishadi." Biroq, bu texnologiyaning joriy cheklovlari bilan bog'liq.

Inflect Health startapining klinisteri va rahbari Joshua Tamayo-Sarver tez yordam bo'limidagi o'z amaliyotiga asoslangan xayoliy bemorlar stsenariylarini bitta tizimga kiritib, uning qanday ishlashini ko'rdi. Bu hayot uchun xavfli sharoitlarni o'tkazib yubordi, dedi u. "Bu muammoli ko'rinadi."

Texnologiya, shuningdek, "gallyutsinatsiyaga" moyil bo'ladi - ya'ni ishonchli ko'rinadigan ma'lumotni yaratadi. Rasmiy tadqiqotlar ishlashning keng doirasini topdi. ChatGPT va Google mahsulotlarini ochiq kengash imtihonidan foydalangan holda tekshiradigan dastlabki tadqiqot maqolasi neyroxirurgiya bo'yicha savollar 2% gallyutsinatsiya darajasini aniqladi. tomonidan o'tkazilgan tadqiqot Stenford tadqiqotchilari64 ta klinik stsenariyga AI javoblarining sifatini o'rganib chiqib, 6% hollarda uydirma yoki gallyutsinatsiyalangan iqtiboslar topildi, dedi hammuallif Nigam Shoh KFF Health News nashriga. Boshqa dastlabki qog'oz aniqlandi, murakkab kardiologiya hollarda, ChatGPT yarim vaqtning ekspert fikri bilan kelishilgan.

Maxfiylik yana bir tashvish. Ushbu turdagi sun'iy intellektga asoslangan tizimga kiritilgan ma'lumotlar ichkarida qoladimi yoki yo'qmi noma'lum. Masalan, ChatGPT-ning tashabbuskor foydalanuvchilari retseptni aytib berish texnologiyasini olishga muvaffaq bo'lishdi napalm uchunbu kimyoviy bombalar qilish uchun ishlatilishi mumkin.

Nazariy jihatdan, tizimda shaxsiy ma'lumotlarning qochishiga to'sqinlik qiluvchi himoya panjaralari mavjud. Misol uchun, KFF Health News ChatGPT dan elektron pochta manzilini so'raganida, tizim bu shaxsiy ma'lumotlarni oshkor qilishdan bosh tortdi. Ammo qahramon sifatida rol o'ynashni aytib, ushbu maqola muallifining elektron pochta manzili haqida so'rashganda, u mamnuniyat bilan ma'lumotdan voz kechdi. (Bu haqiqatan ham muallifning to'g'ri elektron pochta manzili 2021 yilda ChatGPT arxivi tugashi bilanoq edi.)

"Men bemor ma'lumotlarini kiritmagan bo'lardim", dedi Shah, Stenford Health Care kompaniyasining bosh ma'lumot olimi. "Biz bu ma'lumotlar OpenAI serverlariga urilganda nima bo'lishini tushunmayapmiz."

OpenAI matbuot kotibi Tina Sui KFF Health News nashriga "hech qachon bizning modellarimizdan jiddiy tibbiy sharoitlarda diagnostika yoki davolash xizmatlarini ko'rsatish uchun foydalanmaslik kerakligini" aytdi. Ular "tibbiy ma'lumot berish uchun yaxshi sozlanmagan", dedi u.

Yangi tadqiqotlar portlashi bilan Topol shunday dedi: "Men tibbiyot hamjamiyatida nima bo'lishi haqida yaxshi ma'lumot yo'q deb o'ylamayman".

Aloqador mavzular

Biz bilan bog'lanish Hikoya maslahatini yuboring