వైద్యంలో ఏఐ తప్పులకు బాధ్యులెవరు?

అన్ని రంగాల మాదిరిగానే ఆరోగ్య రంగంలోనూ కృత్రిమ మేధ (ఏఐ)  వాడటం మొదలైంది. వ్యాధి నిర్ధారణ, క్లినికల్‌ కేర్, చికిత్స, రోగుల వైద్య చరిత్రను అక్షరబద్ధం చేయడం, మందుల అభివృద్ధి వంటి పనులకు తగు జాగ్రత్తలతో ‘ఎల్‌ఎంఎం’లను వాడొచ్చునని ప్రపంచ ఆరోగ్య సంస్థ సూచిస్తోంది. ఆ మేరకు ఆరోగ్య సిబ్బందిపై భారం తగ్గుతుంది. మనిషి మాదిరిగానే స్పందించాలన్నది ఎల్‌ఎంఎంల తయారీ ఉద్దేశమన్నది తెలిసిందే. అలాంటప్పుడు వీటి ద్వారా తప్పులు జరిగితే బాధ్యత ఎవరిది? ఆరోగ్య సేవలు, ఉత్పత్తులకు అన్వయిస్తున్న నైతిక, మానవ హక్కుల ప్రమాణాలను ఏఐ టెక్నాలజీలు, టూల్స్‌కు కూడా విస్తరించాలి. భారీ స్థాయిలో ఎల్‌ఎంఎంలు విడుదలైన ప్రతిసారీ వీటిని కచ్చితంగా ఆడిట్‌ చేసే ఏర్పాట్లు చేసుకోవాలి.

ఛాట్‌జీపీటీ వంటి కృత్రిమ మేధ(ఏఐ) టూల్స్‌ వాడకం ఇటీవల బాగా పెరిగింది. అన్ని రంగాల్లో మాదిరిగానే ఆరోగ్య రంగంలోనూ కృత్రిమ మేధ టెక్నా లజీలను వాడటం మొదలుపెట్టారు. ప్రపంచ ఆరోగ్య సంస్థ (డబ్ల్యూ హెచ్‌ఓ) ఈ విషయమై ఒక హెచ్చరిక జారీ చేసింది. ఛాట్‌జీపీటీ, బార్డ్‌ వంటి ఎల్‌ఎంఎం (లార్జ్‌ మల్టీ–మోడల్‌ మోడల్స్‌)లు అందించిన సమాచారం, వీడియోలకు మాత్రమే పరిమితం కాకుండా... అంతకంటే ఎక్కువ విషయాలపై వ్యాఖ్యానించగలవు. మనిషి మాదిరిగానే స్పందించాలన్నది ఎల్‌ఎంఎంల తయారీ ఉద్దేశమన్నది తెలిసిందే.

పరిస్థితులకు తగ్గట్టుగా కొత్త విషయాలను ఎప్పటికప్పుడు నేర్చు కోవడం ఇవి చేసే పని. ఆరోగ్య రంగంలో వీటిని ఉపయోగించడం వల్ల తప్పుడు సమాచారం, ఏకపక్ష లేదా అసంపూర్తి సమాచారం అందే ప్రమాదాలు ఉంటాయనీ, ఇది మన ఆరోగ్యంపై ప్రభావం చూపవచ్చుననీ డబ్ల్యూహెచ్‌ఓ హెచ్చరించింది. శిక్షణ ఇచ్చేందుకే తప్పుడు సమాచారాన్ని ఉపయోగిస్తే పరిస్థితి మరింత అధ్వాన్న మవుతుందన్నది ఈ హెచ్చరిక సారాంశం. ముఖ్యంగా జాతి, కులం, మతం వంటి విషయాల్లో ఏఐ టెక్నాలజీలు వివక్షతో కూడిన సమాచా రాన్ని తయారు చేసే ప్రమాదముంది.

ఏఐ వాడకం పెరిగిపోతున్న నేపథ్యంలో డబ్ల్యూహెచ్‌ఓ 2021లో సాధారణ మార్గదర్శకాలు కొన్నింటిని జారీ చేసింది. అదే సమయంలోనే ఆరోగ్య రంగంలో ఏఐ వాడకంతో రాగల ప్రయోజనాలనూ గుర్తించింది. నైతికత విషయంలో కొన్ని స్థూల మార్గదర్శకాలను సిద్ధం చేసింది. వాటి ప్రకారం... ఏఐ టెక్నాలజీలు స్వయం ప్రతిపత్తిని కాపా డేలా ఉండాలి. మానవ సంక్షేమం, భద్రత, ప్రజాప్రయోజనాలు, పారదర్శకతలకు పెద్దపీట వేయాలి. తెలివిగా ప్రవర్తించడంతోపాటు వివరించేలా ఉండాలి. బాధ్యత స్వీకరించాలి. అందరినీ కలుపుకొని పోవాలి. వివక్ష లేకుండా చూసుకోవాలి. వివరించేలా ఉండటం అంటే... ఏఐ తాలూకూ డిజైన్ , వినియోగం విషయాల్లో దాపరికం లేకుండా తగినంత సమాచారం అందరికీ అందుబాటులో ఉంచడం!

పారదర్శకత ఆశించగలమా?
ఆరోగ్య రంగంలో ఏఐ వాడకంపై డబ్ల్యూహెచ్‌ఓ ఇటీవల మరి కొన్ని మార్గదర్శకాలను జారీ చేసింది. ఎల్‌ఎంఎంల ఆవిష్కరణతో ఇవి అనివార్యమయ్యాయి. ఎల్‌ఎంఎంల వాడకం గురించి అర్థం చేసు కోవాలంటే ఏఐ టెక్నాలజీని సమగ్రంగా తెలుసుకోవాల్సి ఉంటుంది. ఇది ఎల్‌ఎంఎం టూల్‌ను అభివృద్ధి చేయడంతో మొదలవుతుంది. అభివృద్ధి చేసేది కార్పొరేట్‌ కంపెనీ, యూనివర్సిటీ, స్టార్టప్‌ ఏదైనా కావచ్చు. ఇవన్నీ ఆధారపడేది సమాచార లభ్యత, నైపుణ్యాల పైనే.

తరువాతి దశలో అభివృద్ధి చేసిన ఎల్‌ఎంఎంకు ఓ ప్రోగ్రామింగ్‌ ఇంటర్ఫేస్‌ అందిస్తారు. లోటుపాట్లను సరిచేయడం, విస్తృత సమాచా రంతో శిక్షణ ఇవ్వడం అన్నమాట. ఎల్‌ఎంఎంను భారీ సాఫ్ట్‌వేర్‌ వ్యవస్థలో భాగం చేయడం కూడా ఈ ప్రోగ్రామింగ్‌ ఇంటర్ఫేస్‌ను సిద్ధం చేసే థర్డ్‌ పార్టీ బాధ్యతే. ఈ పని చేసిన తరువాత ఈ కృత్రిమ మేధ ద్వారా సేవలు అందుతాయి. లేదా ఒక అప్లికేషన్  రెడీ అవుతుంది. ఏఐ టెక్నాలజీ అభివృద్ధి దశల్లో మూడోది వినియోగదారుడికి దీన్ని అందించే డిప్లాయర్‌. ఆరోగ్య రంగంలో ఈ డిప్లాయర్‌ ఎక్కువ సందర్భాల్లో ఆసుపత్రి, ప్రభుత్వ ఆరోగ్య సంస్థ లేదా ఫార్మా కంపెనీ అయివుంటుంది.

ఈ మూడు దశల్లో నైతికత, నియంత్రణకు సంబంధించిన చాలా ప్రశ్నలు, అంశాలు ఎదురవుతాయి. చాలాసార్లు డెవలపర్‌ పెద్ద టెక్‌ కంపెనీ అయి ఉంటుంది. ఎల్‌ఎంఎంల తయారీకి కావాల్సినన్ని నిధులు, టెక్నాలజీ నైపుణ్యాలు వీరి వద్దే ఉంటాయి. వీటి అభివృద్ధిలో వాడే అల్గారిథమ్స్, వాటి వల్ల రాగల ప్రమాదాల గురించి సామాన్యు లకు తెలిసే అవకాశాలు తక్కువే. కార్పొరేట్‌ కంపెనీ కాబట్టి పార దర్శకత, నిబద్ధతలను కూడా ఆశించలేము. 

నియంత్రణ ఎలా?
ఈ నేపథ్యంలోనే ప్రపంచవ్యాప్త ప్రభుత్వ నియంత్రణ సంస్థలకు ఒక బెంగ పట్టుకుంది. కొత్తగా అందుబాటులోకి వస్తున్న ఏఐ టూల్స్‌ ప్రస్తుత న్యాయ, చట్ట వ్యవస్థల్లోకి ఇముడుతాయా? మానవ హక్కు లకు సంబంధించిన అంశాలతోపాటు దేశాల డేటా పరిరక్షణ చట్టాల విషయంలోనూ ఈ సందేహముంది. ఎల్‌ఎంఎంల ప్రవేశం ఒక రకంగా ప్రభుత్వ, నియంత్రణ సంస్థలు ఏమరుపాటుగా ఉన్న సమయంలో జరిగిందని చెప్పాలి. యూరోపియన్  యూనియన్  విష యాన్నే తీసుకుందాం. ఎల్‌ఎంఎంలను చేర్చేందుకే వీరు ఆర్టిఫీషియల్‌ ఇంటె లిజెన్స్ చట్టాన్ని చివరి దశలో మార్చాల్సి వచ్చింది. 

డబ్ల్యూహెచ్‌ఓ నివేదిక ప్రకారం అల్గారిథమ్స్‌ ప్రస్తుత చట్ట, న్యాయ వ్యవస్థల పరిధిలోకి చేరే అవకాశం లేదు. మరోవైపు ఎల్‌ఎంఎంలు కూడా మనుషుల్లా చిత్తభ్రమలకు గురై తప్పుడు సమాచారాన్ని ఇవ్వవచ్చునని ఇప్పటికే పలు అధ్యయనాలు స్పష్టం చేశాయి. ఇంకో ఆందోళన ఏమిటంటే... ఈ ఎల్‌ఎంఎంల ద్వారా తప్పులు జరిగితే వాటికి బాధ్యత ఎవరిది? ఇలాంటి తప్పుల కారణంగా జరిగే నష్టం, కలిగే హాని, దుర్వినియోగాలకు ఎవరు బాధ్యులన్న విషయంపై కూడా పెద్ద ఎత్తున చర్చలు జరుగుతున్నాయి. పైగా ఈ ఎల్‌ఎంఎంలు సైబర్‌ సెక్యూరిటీ ముప్పులకు అతీతమేమీ కాదు. ఆరోగ్య రంగంలో వీటిని వాడితే రోగుల సమాచారం దుర్వినియోగమయ్యే అవకాశాలు ఎక్కువ.

ఆరోగ్య రంగంలో ఏఏ అంశాలకు ఎల్‌ఎంఎంలను వాడవచ్చు నన్న విషయంపై డబ్ల్యూహెచ్‌ఓ ఒక స్థూల అంచనాకు వచ్చింది. వ్యాధి నిర్ధారణ, క్లినికల్‌ కేర్, లక్షణాలను పరిశీలించడం, చికిత్స, పరిపాలన, రోగుల వైద్య చరిత్రను అక్షరబద్ధం చేయడం వంటి పనులు... వైద్య, నర్సింగ్‌ శిక్షణ, శాస్త్రీయ పరిశోధన, మందుల అభివృద్ధి అన్న అంశాలకు మాత్రమే తగు జాగ్రత్తలతో ఎల్‌ఎంఎంలను వాడవచ్చునని సూచిస్తోంది.

ఈ పనులన్నింటినీ ఎల్‌ఎంఎంలు చేస్తే ఆరోగ్య సిబ్బందిపై భారం అంతమేరకు తగ్గుతుంది. మరోవైపు ఓ కంపెనీ మెడికల్‌ ఎల్‌ఎంఎంను అభివృద్ధి చేసే పనిలో ఉంది. ఇది ప్రశ్నలకు సమాధానాలు చెప్పడం, వైద్యపరమైన సమాచారాన్ని సంక్షి ప్తీకరించడం, అన్నింటినీ కలిపి వైద్యులకు స్థూల నివేదిక ఇవ్వడం వంటి పనులు చేస్తుంది. ఇలాంటివి ఎక్కువైన కొద్దీ వైద్యుడికి, రోగికి మధ్య ఉన్న సంబంధాలు దెబ్బతింటాయి.

మరి ఏం చేయాలి? ఎల్‌ఎంఎంల వాడకాన్ని పూర్తిగా అడ్డుకోవ డమైతే  కాదు. వీటిని అభివృద్ధి చేసే సమయంలో వీలైనంత ఎక్కువ పారదర్శకత తీసుకురావడం ఒకటైతే... వాడకం కూడా బాధ్యతాయు తంగా ఉండేలా చూసుకోవడం మరొకటి. ఈ దిశగా ముందు ప్రభు త్వాలు ఆరోగ్య రంగంలో వినియోగానికి తలపెట్టిన ఎల్‌ఎంఎంల మదింపు, అనుమతుల కోసం నియంత్రణ సంస్థలను ఏర్పాటు చేసుకోవాలి. అలాగే ఏఐ వ్యవస్థల అభివృద్ధికి లాభాపేక్ష లేకుండా అందరికీ అందుబాటులో ఉండేలా మౌలిక సదుపాయాలను సమకూర్చాలి.

శక్తిమంతమైన కంప్యూటింగ్‌ వ్యవస్థలు, డేటా సెట్స్‌ అటు ప్రభుత్వ, ఇటు ప్రైవేట్‌ వ్యక్తులూ వాడుకోగలిగితే తప్పు ఒప్పుల గురించి ఒక స్పష్టమైన అంచనా ఏర్పడుతుంది. ఆరోగ్య సేవలు, ఉత్ప త్తులకు ప్రస్తుతం అన్వయిస్తున్న నైతిక, మానవ హక్కుల ప్రమాణా లను ఏఐ టెక్నాలజీలు, టూల్స్‌కు కూడా విస్తరించాలి. ఆరోగ్య, వైద్య అంశాలకు సంబంధించి భారీ స్థాయిలో ఎల్‌ఎంఎంలు విడుదలైన ప్రతిసారి ఏఐ టూల్స్, టెక్నాలజీలను కచ్చితంగా ఆడిట్‌ చేసేలా ఏర్పాట్లు చేసుకోవాలి. ఏఐతో వచ్చే లాభాలపై అతిగా అంచనాలూ పెట్టుకోవద్దు; రాగల ముప్పులను తక్కువ చేసి చూడనూ వద్దు.

దినేశ్‌ సి. శర్మ 
వ్యాసకర్త సైన్స్ అంశాల వ్యాఖ్యాత
(‘ద ట్రిబ్యూన్‌’ సౌజన్యంతో)