समाचार

ठूलो भाषा मोडेल (LLM) ले द्रुत शब्दहरूमा आधारित प्रेरक लेखहरू लेख्न सक्छ, व्यावसायिक प्रवीणता परीक्षाहरू पास गर्न सक्छ, र बिरामी-मैत्री र समानुभूतिपूर्ण जानकारी लेख्न सक्छ। यद्यपि, LLM मा काल्पनिक, नाजुक र गलत तथ्यहरूको ज्ञात जोखिमहरूको अतिरिक्त, अन्य अनसुलझे मुद्दाहरू बिस्तारै केन्द्रबिन्दु बन्दै गइरहेका छन्, जस्तै AI मोडेलहरू जसले तिनीहरूको सिर्जना र प्रयोगमा सम्भावित रूपमा भेदभावपूर्ण "मानव मूल्यहरू" समावेश गर्दछ, र यदि LLM ले अब सामग्री निर्माण गर्दैन र स्पष्ट रूपमा हानिकारक आउटपुट परिणामहरू हटाउँछ भने पनि, "LLM मानहरू" अझै पनि मानव मूल्यहरूबाट विचलित हुन सक्छ।

अनगिन्ती उदाहरणहरूले एआई मोडेलहरूलाई तालिम दिन प्रयोग गरिने डेटाले व्यक्तिगत र सामाजिक मूल्यहरूलाई कसरी एन्कोड गर्छ भनेर देखाउँछन्, जुन मोडेल भित्र बलियो हुन सक्छ। यी उदाहरणहरूमा छातीको एक्स-रेको स्वचालित व्याख्या, छाला रोगहरूको वर्गीकरण, र चिकित्सा स्रोत विनियोजन सम्बन्धी एल्गोरिथमिक निर्णय लिने जस्ता विभिन्न अनुप्रयोगहरू समावेश छन्। हाम्रो जर्नलको हालैको लेखमा उल्लेख गरिएझैं, पक्षपाती प्रशिक्षण डेटाले समाजमा उपस्थित मूल्य र पूर्वाग्रहहरूलाई विस्तार र प्रकट गर्न सक्छ। यसको विपरीत, अनुसन्धानले यो पनि देखाएको छ कि एआई पूर्वाग्रह कम गर्न प्रयोग गर्न सकिन्छ। उदाहरणका लागि, अनुसन्धानकर्ताहरूले घुँडाको एक्स-रे फिल्महरूमा गहिरो सिकाइ मोडेलहरू लागू गरे र घुँडाको जोर्नी भित्र मानक गम्भीरता सूचकहरू (रेडियोलोजिस्टहरू द्वारा ग्रेड गरिएको) द्वारा छुटेका कारकहरू पत्ता लगाए, जसले गर्दा कालो र सेतो बिरामीहरू बीचको अस्पष्ट पीडा भिन्नताहरू कम भए।

यद्यपि धेरै भन्दा धेरै मानिसहरूले एआई मोडेलहरूमा पूर्वाग्रह महसुस गरिरहेका छन्, विशेष गरी प्रशिक्षण डेटाको सन्दर्भमा, एआई मोडेलहरूको विकास र तैनाती प्रक्रियामा मानवीय मूल्यका धेरै अन्य प्रविष्टि बिन्दुहरूलाई पर्याप्त ध्यान दिइएको छैन। मेडिकल एआईले हालै प्रभावशाली नतिजाहरू हासिल गरेको छ, तर धेरै हदसम्म, यसले मानवीय मूल्यहरू र जोखिम मूल्याङ्कन र सम्भाव्य तर्कसँगको तिनीहरूको अन्तरक्रियालाई स्पष्ट रूपमा विचार गरेको छैन, न त यसलाई मोडेल गरिएको छ।

यी अमूर्त अवधारणाहरूलाई ठोस बनाउनको लागि, कल्पना गर्नुहोस् कि तपाईं एक एन्डोक्राइनोलॉजिस्ट हुनुहुन्छ जसले आफ्नो उमेरको तेस्रो प्रतिशतभन्दा कम उमेरको ८ वर्षको केटाको लागि पुनः संयोजक मानव वृद्धि हार्मोन लेख्न आवश्यक छ। केटाको उत्तेजित मानव वृद्धि हार्मोन स्तर २ एनजी/एमएल भन्दा कम छ (सन्दर्भ मान,>१० एनजी/एमएल, संयुक्त राज्य अमेरिका बाहिर धेरै देशहरूको लागि सन्दर्भ मान>७ एनजी/एमएल हो), र उसको मानव वृद्धि हार्मोन कोडिङ जीनले दुर्लभ निष्क्रियता उत्परिवर्तनहरू पत्ता लगाएको छ। हामी विश्वास गर्छौं कि यस क्लिनिकल सेटिङमा मानव वृद्धि हार्मोन थेरापीको प्रयोग स्पष्ट र निर्विवाद छ।

निम्न परिदृश्यहरूमा मानव वृद्धि हार्मोन थेरापीको प्रयोगले विवाद निम्त्याउन सक्छ: १४ वर्षको केटाको उचाइ सधैं उसका साथीहरूको १० औं प्रतिशतमा हुन्छ, र उत्तेजना पछि मानव वृद्धि हार्मोनको शिखर ८ एनजी/एमएल हुन्छ। उचाइलाई असर गर्ने कुनै ज्ञात कार्यात्मक उत्परिवर्तनहरू छैनन्, न त छोटो कदको अन्य ज्ञात कारणहरू छन्, र उसको हड्डीको उमेर १५ वर्षको छ (अर्थात् कुनै विकासात्मक ढिलाइ छैन)। विवादको एक भाग मात्र पृथक वृद्धि हार्मोनको कमीको निदानको लागि प्रयोग गरिने मानव वृद्धि हार्मोन स्तरहरूको बारेमा दर्जनौं अध्ययनहरूमा आधारित विशेषज्ञहरूद्वारा निर्धारण गरिएको थ्रेसहोल्ड मानहरूमा भिन्नताहरूको कारणले हो। कम्तिमा धेरै विवाद बिरामीहरू, बिरामी अभिभावकहरू, स्वास्थ्य सेवा पेशेवरहरू, औषधि कम्पनीहरू र भुक्तानीकर्ताहरूको दृष्टिकोणबाट मानव वृद्धि हार्मोन थेरापी प्रयोग गर्ने जोखिम लाभ सन्तुलनबाट उत्पन्न हुन्छ। बाल चिकित्सा एन्डोक्राइनोलॉजिस्टहरूले २ वर्षसम्म वृद्धि हार्मोनको दैनिक इंजेक्शनको दुर्लभ प्रतिकूल प्रभावहरूको तौल गर्न सक्छन् जसमा वर्तमानको तुलनामा वयस्क शरीरको आकारमा कुनै वा केवल न्यूनतम वृद्धि हुने सम्भावना हुन्छ। केटाहरूले आफ्नो उचाइ २ सेन्टिमिटर मात्र बढ्न सके पनि ग्रोथ हार्मोन सुई लगाउनु उचित हुन्छ भन्ने विश्वास गर्न सक्छन्, तर भुक्तानीकर्ता र औषधि कम्पनीको विचार फरक हुन सक्छ।

हामी उदाहरणको रूपमा क्रिएटिनिनमा आधारित eGFR लिन्छौं, जुन दीर्घकालीन मृगौला रोगको निदान र चरणबद्धता, मृगौला प्रत्यारोपण वा दान अवस्थाहरू सेट गर्न, र धेरै प्रिस्क्रिप्शन औषधिहरूको लागि कटौती मापदण्ड र विरोधाभासहरू निर्धारण गर्न व्यापक रूपमा प्रयोग हुने मृगौला कार्य सूचक हो। EGFR एक साधारण रिग्रेसन समीकरण हो जुन मापन गरिएको ग्लोमेरुलर फिल्टरेशन दर (mGFR) अनुमान गर्न प्रयोग गरिन्छ, जुन एक सन्दर्भ मानक हो, तर मूल्याङ्कन विधि अपेक्षाकृत बोझिलो छ। यो रिग्रेसन समीकरणलाई AI मोडेल मान्न सकिँदैन, तर यसले मानव मूल्य र सम्भाव्य तर्कको बारेमा धेरै सिद्धान्तहरू चित्रण गर्दछ।

eGFR मा मानव मानहरू प्रवेश गर्ने पहिलो प्रवेश बिन्दु भनेको समीकरणहरू फिट गर्ने डेटा चयन गर्दा हो। eGFR सूत्र डिजाइन गर्न प्रयोग गरिएको मूल कतार प्रायः कालो र सेतो सहभागीहरू मिलेर बनेको हुन्छ, र धेरै अन्य जातीय समूहहरूमा यसको प्रयोज्यता स्पष्ट छैन। यस सूत्रमा मानव मानहरूको लागि पछिल्ला प्रविष्टि बिन्दुहरूमा समावेश छन्: मिर्गौला कार्य मूल्याङ्कनको लागि प्राथमिक उद्देश्यको रूपमा mGFR शुद्धता चयन गर्ने, शुद्धताको स्वीकार्य स्तर के हो, शुद्धता कसरी मापन गर्ने, र क्लिनिकल निर्णय लिने (जस्तै मिर्गौला प्रत्यारोपणको लागि अवस्था निर्धारण गर्ने वा औषधि लेख्ने) ट्रिगर गर्नको लागि थ्रेसहोल्डको रूपमा eGFR प्रयोग गर्ने। अन्तमा, इनपुट मोडेलको सामग्री चयन गर्दा, मानव मानहरू पनि यो सूत्रमा प्रवेश गर्नेछन्।

उदाहरणका लागि, २०२१ भन्दा पहिले, दिशानिर्देशहरूले बिरामीको उमेर, लिङ्ग र जातिको आधारमा eGFR सूत्रमा क्रिएटिनिन स्तर समायोजन गर्न सुझाव दिन्छन् (केवल कालो वा गैर-कालो व्यक्तिहरूको रूपमा वर्गीकृत)। जातिमा आधारित समायोजन mGFR सूत्रको शुद्धता सुधार गर्ने उद्देश्यले गरिएको हो, तर २०२० मा, प्रमुख अस्पतालहरूले प्रत्यारोपणको लागि बिरामीको योग्यतामा ढिलाइ र जैविक अवधारणाको रूपमा जातिलाई ठोसीकरण गर्ने जस्ता कारणहरू उद्धृत गर्दै जातिमा आधारित eGFR को प्रयोगमाथि प्रश्न उठाउन थाले। अनुसन्धानले देखाएको छ कि जातिको सन्दर्भमा eGFR मोडेलहरू डिजाइन गर्नाले शुद्धता र क्लिनिकल परिणामहरूमा गहिरो र फरक प्रभाव पर्न सक्छ; त्यसकारण, चयनात्मक रूपमा शुद्धतामा ध्यान केन्द्रित गर्ने वा परिणामहरूको एक भागमा ध्यान केन्द्रित गर्ने मूल्य निर्णयहरू प्रतिबिम्बित गर्दछ र पारदर्शी निर्णय-निर्धारणलाई ढाक्न सक्छ। अन्तमा, राष्ट्रिय कार्य समूहले प्रदर्शन र निष्पक्षता मुद्दाहरूलाई सन्तुलनमा राख्न जातिलाई विचार नगरी पुन: फिट गरिएको नयाँ सूत्र प्रस्ताव गर्‍यो। यो उदाहरणले देखाउँछ कि साधारण क्लिनिकल सूत्रमा पनि मानव मूल्यहरूमा धेरै प्रवेश बिन्दुहरू छन्।

थोरै संख्यामा भविष्यवाणी गर्ने संकेतकहरू भएका क्लिनिकल सूत्रहरूको तुलनामा, LLM मा अरबौंदेखि सयौं अर्ब प्यारामिटरहरू (मोडेल तौल) वा सोभन्दा बढी हुन सक्छन्, जसले गर्दा यसलाई बुझ्न गाह्रो हुन्छ। हामीले "बुझ्न गाह्रो" भन्नुको कारण यो हो कि धेरैजसो LLM मा, प्रश्नहरू मार्फत प्रतिक्रियाहरू प्राप्त गर्ने सही तरिका म्याप गर्न सकिँदैन। GPT-4 को लागि प्यारामिटरहरूको संख्या अझै घोषणा गरिएको छैन; यसको पूर्ववर्ती GPT-3 मा १७५ अर्ब प्यारामिटरहरू थिए। थप प्यारामिटरहरूको अर्थ बलियो क्षमताहरू हुनु आवश्यक छैन, किनकि साना मोडेलहरू जसमा धेरै कम्प्युटेसनल चक्रहरू समावेश छन् (जस्तै LLaMA [ठूलो भाषा मोडेल मेटा AI] मोडेल श्रृंखला) वा मानव प्रतिक्रियाको आधारमा राम्रोसँग ट्युन गरिएका मोडेलहरूले ठूला मोडेलहरू भन्दा राम्रो प्रदर्शन गर्नेछन्। उदाहरणका लागि, मानव मूल्याङ्कनकर्ताहरूका अनुसार, InstrumentGPT मोडेल (१.३ अर्ब प्यारामिटरहरू भएको मोडेल) ले मोडेल आउटपुट परिणामहरूलाई अनुकूलन गर्ने सन्दर्भमा GPT-3 लाई राम्रो प्रदर्शन गर्छ।

GPT-4 को विशिष्ट प्रशिक्षण विवरणहरू अझै खुलासा गरिएको छैन, तर GPT-3, InstrumentGPT, र धेरै अन्य खुला-स्रोत LLM हरू सहित अघिल्लो पुस्ताका मोडेलहरूको विवरणहरू खुलासा गरिएको छ। आजकल, धेरै AI मोडेलहरू मोडेल कार्डहरूसँग आउँछन्; GPT-4 को मूल्याङ्कन र सुरक्षा डेटा मोडेल सिर्जना कम्पनी OpenAI द्वारा प्रदान गरिएको समान प्रणाली कार्डमा प्रकाशित गरिएको छ। LLM को सिर्जनालाई लगभग दुई चरणहरूमा विभाजन गर्न सकिन्छ: प्रारम्भिक पूर्व प्रशिक्षण चरण र मोडेल आउटपुट परिणामहरू अनुकूलन गर्ने उद्देश्यले फाइन-ट्यूनिंग चरण। पूर्व प्रशिक्षण चरणमा, मोडेललाई अर्को शब्दको भविष्यवाणी गर्न तालिम दिन मूल इन्टरनेट पाठ सहित ठूलो कोर्पस प्रदान गरिन्छ। यो देखिने सरल "स्वचालित समापन" प्रक्रियाले एक शक्तिशाली आधारभूत मोडेल उत्पादन गर्दछ, तर यसले हानिकारक व्यवहार पनि निम्त्याउन सक्छ। मानवीय मूल्यहरू पूर्व प्रशिक्षण चरणमा प्रवेश गर्नेछन्, जसमा GPT-4 को लागि पूर्व प्रशिक्षण डेटा चयन गर्ने र पूर्व प्रशिक्षण डेटाबाट अश्लील सामग्री जस्ता अनुपयुक्त सामग्री हटाउने निर्णय गर्ने समावेश छ। यी प्रयासहरूको बावजुद, आधारभूत मोडेल अझै पनि उपयोगी वा हानिकारक आउटपुट परिणामहरू समावेश गर्न सक्षम नहुन सक्छ। फाइन-ट्युनिङको अर्को चरणमा, धेरै उपयोगी र हानिरहित व्यवहारहरू देखा पर्नेछन्।

फाइन-ट्युनिङ चरणमा, भाषा मोडेलहरूको व्यवहार प्रायः पर्यवेक्षित फाइन-ट्युनिङ र मानव प्रतिक्रियाको आधारमा सुदृढीकरण सिकाइ मार्फत गहिरो रूपमा परिवर्तन गरिन्छ। पर्यवेक्षित फाइन-ट्युनिङ चरणमा, भाडामा लिइएका ठेकेदार कर्मचारीहरूले द्रुत शब्दहरूको लागि प्रतिक्रिया उदाहरणहरू लेख्नेछन् र मोडेललाई प्रत्यक्ष रूपमा तालिम दिनेछन्। मानव प्रतिक्रियाको आधारमा सुदृढीकरण सिकाइ चरणमा, मानव मूल्याङ्कनकर्ताहरूले मोडेल आउटपुट परिणामहरूलाई इनपुट सामग्री उदाहरणहरूको रूपमा क्रमबद्ध गर्नेछन्। त्यसपछि "पुरस्कार मोडेल" सिक्न र सुदृढीकरण सिकाइ मार्फत मोडेललाई थप सुधार गर्न माथिको तुलना परिणामहरू लागू गर्नुहोस्। अद्भुत निम्न-स्तरको मानव संलग्नताले यी ठूला मोडेलहरूलाई फाइन-ट्युन गर्न सक्छ। उदाहरणका लागि, InstrumentGPT मोडेलले क्राउडसोर्सिङ वेबसाइटहरूबाट भर्ती गरिएका लगभग ४० ठेकेदार कर्मचारीहरूको टोली प्रयोग गर्‍यो र विभिन्न जनसंख्या समूहहरूको प्राथमिकताहरूप्रति संवेदनशील टिप्पणीकारहरूको समूह चयन गर्ने उद्देश्यले स्क्रिनिङ परीक्षण पास गर्‍यो।

यी दुई चरम उदाहरणहरू, अर्थात् साधारण क्लिनिकल सूत्र [eGFR] र शक्तिशाली LLM [GPT-4] ले देखाउँछन् कि, मानव निर्णय लिने र मानवीय मूल्यहरूले मोडेल आउटपुट परिणामहरूलाई आकार दिन अपरिहार्य भूमिका खेल्छन्। के यी AI मोडेलहरूले तिनीहरूको विविध बिरामी र चिकित्सक मूल्यहरू कब्जा गर्न सक्छन्? चिकित्सामा AI को प्रयोगलाई सार्वजनिक रूपमा कसरी मार्गदर्शन गर्ने? तल उल्लेख गरिएझैं, चिकित्सा निर्णय विश्लेषणको पुन: परीक्षणले यी मुद्दाहरूको सैद्धान्तिक समाधान प्रदान गर्न सक्छ।

चिकित्सा निर्णय विश्लेषण धेरै चिकित्सकहरूलाई परिचित छैन, तर यसले सम्भाव्य तर्क (निर्णय लिनेसँग सम्बन्धित अनिश्चित परिणामहरूको लागि, जस्तै चित्र १ मा देखाइएको विवादास्पद क्लिनिकल परिदृश्यमा मानव वृद्धि हार्मोन प्रशासित गर्ने कि नगर्ने) र विचार कारकहरू (यी परिणामहरूसँग संलग्न व्यक्तिपरक मानहरूको लागि, जसको मूल्य "उपयोगिता" को रूपमा परिमाण गरिएको छ, जस्तै पुरुष उचाइमा २ सेन्टिमिटर वृद्धिको मान), जटिल चिकित्सा निर्णयहरूको लागि व्यवस्थित समाधान प्रदान गर्ने बीच भेद गर्न सक्छ। निर्णय विश्लेषणमा, चिकित्सकहरूले पहिले प्रत्येक परिणामसँग सम्बन्धित सबै सम्भावित निर्णयहरू र सम्भावनाहरू निर्धारण गर्नुपर्छ, र त्यसपछि सबैभन्दा उपयुक्त विकल्प चयन गर्न प्रत्येक परिणामसँग सम्बन्धित बिरामी (वा अन्य पक्ष) उपयोगिता समावेश गर्नुपर्छ। त्यसकारण, निर्णय विश्लेषणको वैधता परिणाम सेटिङ व्यापक छ कि छैन, साथै उपयोगिताको मापन र सम्भाव्यताको अनुमान सही छ कि छैन भन्ने कुरामा निर्भर गर्दछ। आदर्श रूपमा, यो दृष्टिकोणले निर्णयहरू प्रमाण-आधारित र बिरामीको प्राथमिकताहरूसँग पङ्क्तिबद्ध छन् भनी सुनिश्चित गर्न मद्दत गर्दछ, जसले गर्दा वस्तुनिष्ठ डेटा र व्यक्तिगत मानहरू बीचको खाडल कम हुन्छ। यो विधि धेरै दशक अघि चिकित्सा क्षेत्रमा पेश गरिएको थियो र व्यक्तिगत बिरामी निर्णय लिने र जनसंख्या स्वास्थ्य मूल्याङ्कनमा लागू गरिएको थियो, जस्तै सामान्य जनसंख्यालाई कोलोरेक्टल क्यान्सर स्क्रिनिङको लागि सिफारिसहरू प्रदान गर्ने।

चिकित्सा निर्णय विश्लेषणमा, उपयोगिता प्राप्त गर्न विभिन्न विधिहरू विकास गरिएका छन्। धेरैजसो परम्परागत विधिहरूले व्यक्तिगत बिरामीहरूबाट प्रत्यक्ष रूपमा मूल्य प्राप्त गर्छन्। सबैभन्दा सरल विधि भनेको मूल्याङ्कन स्केल प्रयोग गर्नु हो, जहाँ बिरामीहरूले डिजिटल स्केल (जस्तै १ देखि १० सम्मको रेखीय स्केल) मा निश्चित परिणामको लागि आफ्नो प्राथमिकताको स्तरको मूल्याङ्कन गर्छन्, जसमा सबैभन्दा चरम स्वास्थ्य परिणामहरू (जस्तै पूर्ण स्वास्थ्य र मृत्यु) दुवै छेउमा अवस्थित हुन्छन्। समय विनिमय विधि अर्को सामान्य रूपमा प्रयोग हुने विधि हो। यस विधिमा, बिरामीहरूले खराब स्वास्थ्यको अवधिको सट्टामा कति स्वस्थ समय बिताउन इच्छुक छन् भन्ने निर्णय लिन आवश्यक छ। मानक जुवा विधि उपयोगिता निर्धारण गर्न अर्को सामान्य रूपमा प्रयोग हुने विधि हो। यस विधिमा, बिरामीहरूलाई उनीहरूले रुचाउने दुई विकल्पहरू मध्ये कुन सोधिन्छ भनेर सोधिन्छ: या त विशिष्ट सम्भाव्यता (p) (t) सँग सामान्य स्वास्थ्यमा निश्चित संख्यामा वर्षहरू बाँच्नुहोस्, र 1-p सम्भाव्यतासँग मृत्युको जोखिम वहन गर्नुहोस्; या त क्रस स्वास्थ्य अवस्था अन्तर्गत t वर्षसम्म बाँच्न निश्चित गर्नुहोस्। बिरामीहरूलाई विभिन्न p-मानहरूमा धेरै पटक सोध्नुहोस् जबसम्म उनीहरूले कुनै पनि विकल्पको लागि कुनै प्राथमिकता देखाउँदैनन्, ताकि बिरामीको प्रतिक्रियाहरूको आधारमा उपयोगिता गणना गर्न सकिन्छ।
व्यक्तिगत बिरामी प्राथमिकताहरू प्राप्त गर्न प्रयोग गरिने विधिहरूको अतिरिक्त, बिरामी जनसंख्याको लागि उपयोगिता प्राप्त गर्न विधिहरू पनि विकास गरिएको छ। विशेष गरी फोकस समूह छलफलहरू (विशिष्ट अनुभवहरू छलफल गर्न बिरामीहरूलाई एकसाथ ल्याउने) ले उनीहरूको दृष्टिकोण बुझ्न मद्दत गर्न सक्छ। समूह उपयोगितालाई प्रभावकारी रूपमा एकत्रित गर्न, विभिन्न संरचित समूह छलफल प्रविधिहरू प्रस्ताव गरिएको छ।
व्यवहारमा, क्लिनिकल निदान र उपचार प्रक्रियामा उपयोगिताको प्रत्यक्ष परिचय धेरै समय लाग्ने हुन्छ। समाधानको रूपमा, सर्वेक्षण प्रश्नावलीहरू सामान्यतया जनसंख्या स्तरमा उपयोगिता स्कोरहरू प्राप्त गर्न अनियमित रूपमा चयन गरिएका जनसंख्याहरूमा वितरण गरिन्छ। केही उदाहरणहरूमा EuroQol ५-आयामी प्रश्नावली, ६-आयामी उपयोगिता वजन छोटो रूप, स्वास्थ्य उपयोगिता सूचकांक, र क्यान्सर विशिष्ट युरोपेली क्यान्सर अनुसन्धान र उपचार संगठन जीवन गुणस्तर प्रश्नावली कोर ३० उपकरण समावेश छन्।