यह सूचना के अन्य स्रोतों को भी भ्रष्ट करता है। इसका मतलब यह हो सकता है कि शोधकर्ताओं के पास उन संसाधनों की कमी है जो उनके अध्ययन को सार्थक बनाते हैं। कई लोगों ने अनजाने में एक सेट का इस्तेमाल किया जिसमें उन बच्चों के स्तन शामिल थे जिनके पास कोविड नहीं था, उनके उदाहरण के रूप में कि कैसे कोविड-मुक्त मामले दिखाई देते हैं। नतीजतन, एआई ने बच्चों को पहचानना सीखा, न कि कोविद को।
ड्रिग्स टीम ने डेटा के एक सेट का उपयोग करके उनके प्रकार को सिखाया जिसमें मिश्रित व्यंजन शामिल थे जिन पर मरीज लेटे हुए थे और खड़े थे। क्योंकि स्लीप एपनिया के निदान वाले रोगी बहुत बीमार हो सकते हैं, एआई ने गलती से मानव पर्यावरण से उच्च जोखिम की भविष्यवाणी करना सीख लिया है।
कुछ मामलों में, कुछ एआई नोट लेते हुए पाए जाते हैं जो अन्य अस्पताल परीक्षण के लिए उपयोग करते हैं। नतीजतन, अधिक गंभीर मामलों वाले अस्पतालों के पत्रों ने कोविड के जोखिम की भविष्यवाणी की।
इस तरह की त्रुटियां स्पष्ट प्रतीत होती हैं। यदि शोधकर्ता जागरूक हों तो इसे फिर से डिजाइन और रंग बदला जा सकता है। कमियों को स्वीकार करना और अधूरा, लेकिन भ्रामक प्रकार बनाना संभव है। लेकिन अधिकांश उपकरण एआई शोधकर्ताओं द्वारा विकसित किए गए थे जिनके पास त्रुटियों के निदान में कोई चिकित्सा विशेषज्ञता नहीं थी या चिकित्सा शोधकर्ताओं द्वारा त्रुटियों को ठीक करने की कोई गणितीय क्षमता नहीं थी।
एक प्रसिद्ध समस्या जो ड्रिग्स इंगित करती है वह समावेश, या पूर्वाग्रह है, जिसे परिभाषित किया जाता है जब इसे संग्रहीत किया जाता है। उदाहरण के लिए, कई चिकित्सा परीक्षण इस आधार पर किए गए थे कि क्या उन्हें विकसित करने वाले रेडियोलॉजिस्ट ने कहा कि वे कोविड दिखा रहे थे। लेकिन इसमें रिकॉर्ड के वास्तविक तथ्यों में किसी डॉक्टर के तर्क शामिल हैं, या गुण हैं। ड्रिग्स कहते हैं, नैदानिक विश्लेषण और पीसीआर परीक्षणों के परिणामों पर ध्यान केंद्रित करना एक चिकित्सक पर ध्यान केंद्रित करने से बेहतर होगा। लेकिन अस्पतालों में पढ़ने के लिए हमेशा पर्याप्त समय नहीं होता है।
इसने इनमें से कुछ को अस्पतालों में ले जाने से नहीं रोका। Wynants का कहना है कि यह ज्ञात नहीं है कि किसका उपयोग किया जा रहा है और कैसे। अस्पताल कभी-कभी नैदानिक उपकरण का उपयोग करने का दावा करते हैं, जिससे उन डॉक्टरों की मात्रा को मापना मुश्किल हो जाता है जिन पर वे भरोसा करते हैं। “बहुत सारे रहस्य हैं,” वे कहते हैं।
Wynants ने एक कंपनी का साक्षात्कार लिया जो अपने दृष्टिकोण के बारे में अधिक साझा करने के लिए गहन सीखने की रणनीतियों को बढ़ावा दे रही थी लेकिन उसने नहीं सुना। बाद में उन्होंने कंपनी द्वारा हिरासत में लिए गए जांचकर्ताओं से कई मुद्रित प्रतियां प्राप्त कीं, जिनमें से सभी उच्च जोखिम में हैं। “हम वास्तव में नहीं जानते कि कंपनी ने क्या किया,” वे कहते हैं।
Wynants के अनुसार, कुछ अस्पताल मेडिकल AI विक्रेताओं के साथ गुमनाम समझौतों पर हस्ताक्षर करते हैं। जब वह डॉक्टरों से उस कार्यक्रम या कार्यक्रमों के बारे में पूछती है जिसका वह उपयोग कर रही है, तो वे कभी-कभी उसे बताते हैं कि उन्हें बात करने की अनुमति नहीं है।
तैयार कैसे करें
यह क्या योजना बना रहा है? बहुत कुछ मददगार हो सकता है, लेकिन जब समस्याएं आती हैं तो यह एक बड़ा सवाल है। यह बहुत महत्वपूर्ण है कि हम अपने पास मौजूद तिथियों का अच्छा उपयोग करें। साधारण तथ्य यह है कि एआई टीमें चिकित्सकों के साथ अधिक निकटता से जुड़ी हुई हैं, ड्रिग्स कहते हैं। शोधकर्ताओं को भी अपने रंग साझा करने और यह प्रदर्शित करने की आवश्यकता है कि उन्हें कैसे प्रशिक्षित किया गया ताकि अन्य लोग अभ्यास कर सकें और निर्माण कर सकें। “ये दो चीजें हैं जो हम आज कर सकते हैं,” वे कहते हैं। “और यह लगभग 50% समस्याएं हैं जिन्हें हमने पाया है।”
लंदन में स्थित एक वैश्विक स्वास्थ्य अनुसंधान संगठन, वेलकम ट्रस्ट में एक मेडिकल टीम का नेतृत्व करने वाले चिकित्सक बिलाल मतीन कहते हैं, यदि प्रजातियां समान थीं, तो डेटा तक पहुंच आसान होगी।