Endi “tutun va nometall” yo’q: AI bo’yicha eng yangi ko’rsatmalarga qarash

Jon Halamka, MD, Mayo Clinic Platformasi prezidenti

Sog'liqni saqlashda sun'iy intellektga asoslangan algoritmlarni ishlab chiqish va amalga oshirish biz tasavvur qilganimizdan ancha murakkabroq ekanligini isbotladi. Sog'liqni saqlash bo'yicha yangi koalitsiya AI (CHAI) ko'rsatmalari juda kerakli rejani taqdim etadi.

Biotibbiyot jurnallari birinchi marta sun'iy intellektga asoslangan algoritmlar bo'yicha tadqiqotlarni nashr eta boshlaganlarida, ko'plab kuzatuvchilar ularning bemorlarning natijalarini yaxshilash va klinisyenlarning og'irini engillashtirishdagi potentsial qiymati haqida g'ayrat bilan qarashgan. Bu ishtiyoqning katta qismi orqa o'rinda qoldi, chunki biz asta-sekin klinisyenlarning diagnostika ko'nikmalarini almashtirish yoki hatto ularni oshirish biz o'ylagandek oddiy emasligini angladik. Manfaatdor tomonlar ma'lumotlar to'plamining tarkibini va algoritmlarni yaratish uchun modellashtirish usullarini o'rganish uchun "parda ortidan" diqqat bilan ko'zdan kechirar ekanlar, ular ko'p hollarda ishonchli, xolis ilmiy dalillarga emas, tutun va ko'zgularga qarashlarini tushunishdi. .

Shu fonda bir nechta tashkilotlar ishonchli raqamli vositalarni ishlab chiqish va joriy etishni ta'minlash uchun ko'rsatmalar ishlab chiqishni boshladilar. Masalan, AI bilan bog'liq tadqiqotlar qanday o'tkazilishi va chop etilishi kerakligi to'g'risida standartlarni belgilash uchun SPIRIT-AI va CONSORT-AI konsensus bayonotlari chiqarildi. Xuddi shunday, sotuvchilar, investorlar va sog'liqni saqlash provayderlarini to'g'ri yo'nalishga yo'naltirish uchun bir nechta noto'g'ri nazorat ro'yxatlari, xavflarni bashorat qilish modellari va klinik qarorlarni qo'llab-quvvatlash nazorati bo'yicha ko'rsatmalar mavjud bo'ldi.

Bu hafta, Sog'liqni saqlash uchun koalitsiya AI (CHAI) nashr qilish orqali suhbatga o'z ovozini berib kelmoqda Ishonchli sun'iy intellektni qo'llash bo'yicha qo'llanma va sog'liqni saqlash uchun kafolat loyihasi. Shubhasiz, ba'zilar so'raydi: haqiqatan ham bizga boshqa ko'rsatmalar kerakmi? Yangi CHAI loyihasi "sog'liqni saqlash tizimlari, iste'molchilar va oxirgi foydalanuvchilar uchun sun'iy intellektga asoslangan klinik tizimlarni baholashga yaxlit yondashuvni taklif qiluvchi bir nechta qo'llanmalar mavjud" deb ta'kidlab, ushbu muammoni hal qiladi.

Ushbu maqsadni hisobga olgan holda, Blueprint Milliy Standartlar va Texnologiyalar Instituti (NIST) tomonidan qo'llaniladigan xavflarni boshqarish tizimiga amal qilgan holda ishonchli AI masalasiga tizimli yondashadi. Biz NISTning yaqinda nashr etilganlarini sarhisob qildik ramkaSun'iy intellekt risklarni boshqarish asosi (AI RMF 1.0) deb nomlangan so'nggi blog. NIST hujjati singari, CHAI to'rtta keng toifadan foydalangan; Ishonchli AIni ishlab chiqishda ishtirok etadigan asosiy elementlarni tushuntirish uchun xaritalash, o'lchash, boshqarish va boshqarish.

Bizning loyihamiz tijoratda mavjud bo'lgan AI algoritmlarining katta to'plamini kezishda manfaatdor tomonlar hal qilishi kerak bo'lgan eng muhim muammolardan birini ko'rib chiqadi: tekshirish. Ushbu raqamli vositalarning ko'pchiligi aniqlik va tenglik uchun etarli darajada tekshirilmagan. Blueprint tasdiqlashni "muayyan maqsadli foydalanish yoki qo'llash uchun talablar bajarilganligini ob'ektiv dalillarni taqdim etish orqali tasdiqlash" deb tushuntiradi.

Xuddi shu darajada muhimki, Blueprint batafsil tavsiflanadi va algoritmning ishonchliligi, takrorlanuvchanligi, sinovdan o'tkazilishi, foydalanish qulayligi, amalga oshirilgandan keyingi monitoring, imtiyozlar, xavfsizlik, javobgarlik, shaffoflik, tushuntirish, izohlash va noto'g'ri baholash zarurligini tushuntiradi. Oldingi bloglarda biz algoritmik tarafkashlikni bartaraf etish muhimligini muhokama qilgan edik. CHAI hujjati juda muhim masalaga chuqurroq kirib boradi va bir nechta noto'g'ri fikrlarni o'rganish zarurligini belgilaydi: insoniy/kognitiv, hisoblash, tizimli va statistik.

Albatta, faqat barcha muammolar haqida gapiradigan, ammo yechimlarning hech biri haqida gapiradigan hujjat juda kam bo'lmaydi. Blueprint, shuningdek, harakatga chaqiruvni e'lon qildi, jumladan, sun'iy intellektni tasdiqlovchi laboratoriyalar, maslahat xizmati infratuzilmasi, ClinicalTrials.gov klinik sinovlari reestriga o'xshash sun'iy intellekt vositalari uchun registrlar va ishlab chiquvchilar va foydalanuvchilarga "o'ynash" imkonini beradigan sinov qutilarini tashkil etish bo'yicha tavsiyalar. ” Hujjatda ta'kidlanganidek: "Ma'lumotlar standartlariga asoslangan federatsiyalangan omborni o'z ichiga olgan baholash va monitoring sandbox platformasi yangi AI algoritmlarining uzoq muddatli ishonchliligini ta'minlashga yordam beradi, shuningdek, noto'g'rilikni aniqlash, ish samaradorligining pasayishini aniqlash uchun baholash va doimiy monitoringni amalga oshirish imkonini beradi. ma'lumotlarni o'zgartirish va algoritmlarning foydaliligini baholash."

Nihoyat, biz manfaatdor tomonlarni ushbu keng ko'lamli sa'y-harakatlarda bevosita ishtirok etishga chorlaymiz koalitsiyaga qo'shilish. Umid qilamizki, yangi a'zolar ushbu ob'ektlarni yaratishda faol ishtirok etishda bizga qo'shiladi.

Oldindagi yo'lda, shubhasiz, ko'p to'siqlar bo'ladi, ammo mukofotlarni deyarli tasavvur qilib bo'lmaydi, jumladan, yotoqxonada sezilarli foyda va klinisyenlar va ma'murlar uchun kamroq og'ir ish yuki. Sizni sayohatga taklif qilamiz.

Bu parchaMayo Klinik Platformasining katta tadqiqotchi tahlilchisi va aloqa bo'yicha mutaxassisi, MD, prezident Jon Halamka va Pol Serrato tomonidan yozilgan maqola dastlab o'zlarining blog sahifalarida e'lon qilingan, Raqamli salomatlik chegarasi.