పాలనలో AI

1. ప్రజా పరిపాలనలో అర్థం, ప్రాధాన్యం

ప్రభుత్వ ప్రక్రియలను పునఃరూపకల్పన చేయడానికి, పౌరులతో పరస్పర సంబంధాలను మెరుగుపరచడానికి డిజిటల్ పాలన సమాచార, ప్రసార సాంకేతికతలను ఉపయోగిస్తుంది. భాషను అర్థం చేసుకోవడం, నమూనాల గుర్తింపు, ముందస్తు అంచనా, విషయసామగ్రి సృష్టి వంటి సామర్థ్యాలను AI జోడిస్తుంది. సంప్రదాయ నియమాధారిత పోర్టల్‌కు భిన్నంగా, యంత్ర అభ్యసన నమూనా డేటా నుంచి నమూనాలను గ్రహిస్తుంది. జనరేటివ్ AI పాఠ్యం, చిత్రాలు లేదా ఇతర విషయసామగ్రిని ఉత్పత్తి చేస్తుంది. అంచనా వ్యవస్థలు వ్యాధి ప్రమాదం లేదా పన్ను నిబంధనలను పాటించకపోయే సంభావ్యత వంటి ఫలితాలను అంచనా వేస్తాయి.

చట్టబద్ధ అధికారాన్ని భర్తీ చేయకుండా AI ఒక అధికారికి సహాయపడగలదు. ఫిర్యాదును సంక్షిప్తీకరించే వ్యవస్థ, పింఛను అభ్యర్థనను స్వయంచాలకంగా తిరస్కరించే వ్యవస్థకు మౌలికంగా భిన్నమైనది. రెండవది హక్కులు, చట్టబద్ధ ప్రయోజనాలపై ప్రత్యక్ష ప్రభావం చూపుతుంది. అందువల్ల దానికి మరింత బలమైన చట్టపరమైన సమర్థన, వివరణ, సమీక్ష అవసరం. స్వయంచాలకీకరణ అంతా AI కాదు: స్థిరమైన అర్హత గణన సాధనం పరిపాలకులు రూపొందించిన నియమాలను మాత్రమే వర్తింపజేయవచ్చు.

ముఖ్యంగా అధిక సంఖ్యలో కేసులు, భాషాపరమైన అవరోధాలు, పరిమిత సంఖ్యలో నిపుణ సిబ్బందిని ఎదుర్కొనే శాఖల్లో పరిపాలనా సామర్థ్యాన్ని పెంచడంలో దీని పాలనాపరమైన విలువ ఉంది. అయినప్పటికీ, వేగవంతమైన ప్రక్రియ మెరుగైన పాలనకు పర్యాయపదం కాదు. చట్టబద్ధమైన ఫలితాలు, సమ్మిళితత్వం, పౌరుల సంతృప్తి, అందుబాటు, తప్పులను సరిదిద్దగల సామర్థ్యం ఆధారంగా విజయాన్ని అంచనా వేయాలి.

• పౌరులతో నేరుగా సంబంధం ఉన్న వినియోగాల్లో బహుభాషా సహాయం, దరఖాస్తు మార్గదర్శకత్వం, పత్రాల అనువాదం, ఫిర్యాదుల వర్గీకరణ ఉన్నాయి.
• అంతర్గత పరిపాలనా వినియోగాల్లో పత్రాల శోధన, కొనుగోళ్లలో అసాధారణతల గుర్తింపు, పనిభారం అంచనా, ఫైళ్ల సారాంశీకరణ ఉన్నాయి.
• అధిక ప్రభావం కలిగించే వినియోగాల్లో సంక్షేమ అర్హత నిర్ధారణ, పోలీసింగ్, ఆరోగ్య సంరక్షణలో ప్రాధాన్యాల నిర్ణయం, ఉద్యోగ నియామకాలు ఉన్నాయి; వీటికి మరింత పటిష్ఠమైన రక్షణ చర్యలు అవసరం.

2. అనువర్తనాలు, అవకాశాలు, భారతీయ కార్యక్రమాలు

సంక్షేమ పరిపాలనలో AI సంభావ్య నకిలీ రికార్డులను గుర్తించగలదు, అసాధారణ లావాదేవీలను సూచించగలదు, తగిన సేవలు అందని జనాభాను గుర్తించడంలో సహాయపడగలదు. ఇలాంటి సూచనలు ధృవీకరణ ప్రక్రియకు దారితీయాలి తప్ప, స్వయంచాలకంగా మోసాన్ని నిర్ధారించకూడదు. పన్నుల నిర్వహణ, ప్రభుత్వ కొనుగోళ్లలో అసాధారణతల గుర్తింపు ద్వారా పరిమిత దర్యాప్తు సామర్థ్యాన్ని అధిక ప్రమాదం ఉన్న కేసులపై కేంద్రీకరించవచ్చు. ముందస్తు అంచనా ఆధారిత నిర్వహణ ద్వారా ప్రజోపయోగ సేవా సంస్థలు పరికరాల వైఫల్యాలను ముందే అంచనా వేసి, సేవల్లో అంతరాయాలను తగ్గించగలవు.

ఆరోగ్య సంరక్షణ అనువర్తనాల్లో ప్రాథమిక వైద్య పరీక్షలకు సహాయం, వ్యాధుల నిఘా, వనరుల ప్రణాళిక ఉన్నాయి. వ్యవసాయంలో వాతావరణం, ఉపగ్రహాలు, పంటల డేటాను సమన్వయం చేసి సలహాలు అందించేందుకు AI తోడ్పడగలదు. పట్టణ పాలనా సంస్థలు ట్రాఫిక్ నిర్వహణ, నీటి అవసరాలు, విపత్తు సన్నద్ధత కోసం ముందస్తు అంచనాలను ఉపయోగించవచ్చు. ఈ అనువర్తనాల నాణ్యత స్థానిక పరిస్థితుల్లో ప్రామాణికత నిర్ధారణపై ఆధారపడుతుంది: ఒక ప్రాంతంలో శిక్షణ పొందిన నమూనా భిన్నమైన వాతావరణ, భాషా లేదా జనాభా పరిస్థితుల్లో సరిగా పనిచేయకపోవచ్చు.

NITI Aayog 2018 వ్యూహం ఆరోగ్య సంరక్షణ, వ్యవసాయం, విద్య, స్మార్ట్ నగరాలు మరియు మౌలిక సదుపాయాలు, స్మార్ట్ రవాణాకు ప్రాధాన్యమిచ్చింది. డిజిటల్ ఇండియా కార్పొరేషన్ పరిధిలోని IndiaAI స్వతంత్ర వ్యాపార విభాగం ద్వారా అమలవుతున్న IndiaAI మిషన్ దేశీయ AI వ్యవస్థను బలోపేతం చేయాలని లక్ష్యంగా పెట్టుకుంది. దీని ఏడు మూలస్తంభాలు గణన సామర్థ్యం, ఆవిష్కరణ, డేటాసెట్లు, అనువర్తనాల అభివృద్ధి, భవిష్యత్ నైపుణ్యాలు, స్టార్టప్‌లకు నిధుల కల్పన, సురక్షితమైన మరియు విశ్వసనీయమైన AI.

MeitY పరిధిలోని జాతీయ భాషా అనువాద మిషన్ BHASHINI, డిజిటల్ సేవల్లో భాషాపరమైన అవరోధాలను తగ్గించేందుకు ఉద్దేశించిన భాషా సాంకేతికతలకు మద్దతు ఇస్తుంది. న్యాయ సేవల్లో SUVAS న్యాయ పత్రాల అనువాదానికి తోడ్పడుతుంది; SUPACE న్యాయ పరిశోధనకు సహాయపడేందుకు ప్రారంభించబడింది. ఇటువంటి సాధనాలు న్యాయవ్యవస్థ పనికి సహాయాన్ని సూచిస్తాయి తప్ప, న్యాయనిర్ణయ అధికారాన్ని యంత్రాలకు అప్పగించడాన్ని కాదు.

• డిజిటల్ ప్రజా మౌలిక సదుపాయాలు ఉపయోగకరమైన పునాదులను అందించగలవు. అయితే డేటా ప్రాప్యత నిర్దిష్ట ప్రయోజనానికే పరిమితమై, చట్టబద్ధంగా ఉండాలి.
• AI ఆధారిత వేదికలను ఉపయోగించలేని పౌరులకు సహాయక సేవా కేంద్రాలు, స్వర ఆధారిత ఇంటర్‌ఫేస్‌లు, ఆఫ్‌లైన్ మార్గాలు అవసరంగానే ఉంటాయి.

3. హక్కులు, సమ్మిళితత్వం, పరిపాలనా జవాబుదారీతనానికి ప్రమాదాలు

శిక్షణ డేటా, లేబుళ్లు లేదా రూపకల్పన ఎంపికలు నిర్దిష్ట వర్గాలను వ్యవస్థాగతంగా ప్రతికూల స్థితిలో ఉంచినప్పుడు అల్గోరిథమిక్ పక్షపాతం ఏర్పడుతుంది. గత చట్ట అమలు రికార్డులు వాస్తవ నేరాల రేట్లకు బదులుగా అసమాన పరిశీలనను ప్రతిబింబించవచ్చు. అలాగే, అసంపూర్ణ డిజిటలీకరణ వల్ల అణగారిన కుటుంబాలు అనర్హమైనవిగా కనిపించవచ్చు. మొత్తం ఖచ్చితత్వం నిర్దిష్ట భాషలు, లింగాలు లేదా ప్రాంతాల్లో ఉన్న చాలా అధిక దోషాల రేట్లను మరుగుపరచవచ్చు.

పారదర్శకత లోపం నిర్ణయాలకు కారణాలను తెలియజేయడంలో సమస్యను సృష్టిస్తుంది. ప్రతికూల నిర్ణయం ఎందుకు తీసుకున్నారో, దానిని ఎలా సవాలు చేయాలో పౌరులు అర్థం చేసుకోగలగాలి. సంక్లిష్ట నమూనాలు, సరఫరాదారుల యాజమాన్య వ్యవస్థలు పరిశీలనను కష్టతరం చేయవచ్చు. అయితే వాణిజ్య గోప్యత జవాబుదారీతనం లేని పరిపాలనకు సాకుగా మారకూడదు. అధికారులు స్వతంత్ర విచక్షణ లేకుండా యంత్ర సిఫార్సులను అలవాటుగా అంగీకరించినప్పుడు స్వయంచాలకీకరణ పక్షపాతం ఈ సమస్యను మరింత తీవ్రతరం చేస్తుంది.

భారీ స్థాయిలో డేటా ఏకీకరణ వ్యక్తుల లక్షణాల ఆధారంగా ప్రొఫైలింగ్, నిఘాను సులభతరం చేస్తుంది. బహిరంగ ప్రదేశాల్లో ముఖ గుర్తింపు సాంకేతికత ఆవశ్యకత, అనుపాతబద్ధత, ఖచ్చితత్వం, చట్టబద్ధ కార్యకలాపాలను నిరుత్సాహపరిచే ప్రభావాలపై ప్రశ్నలను లేవనెత్తుతుంది. డేటా ఉల్లంఘనలు, నమూనాల తారుమారు, భద్రత లేని మూడవ పక్ష ఇంటర్‌ఫేస్‌లు అదనపు ప్రమాదాలను సృష్టిస్తాయి. సరిగా కాన్ఫిగర్ చేయకపోతే జనరేటివ్ AI లేని చట్ట నిబంధనలను కల్పించవచ్చు, నకిలీ ఉటంకింపులను సృష్టించవచ్చు లేదా గోప్య సమాచారాన్ని బహిర్గతం చేయవచ్చు.

ఒకే సరఫరాదారుపై ఆధారపడాల్సిన పరిస్థితి, పునరావృతమయ్యే మౌలిక సదుపాయాల వ్యయాలు, బాహ్య నైపుణ్యంపై ఆధారపడటం ద్వారా AI ప్రభుత్వ సామర్థ్యాన్ని కూడా బలహీనపరచవచ్చు. ఒక చాట్‌బాట్ సంస్కరించని ప్రక్రియను మెరుగుపరచడానికి బదులుగా దానిని మరుగుపరచవచ్చు. అందువల్ల మెరుగైన దరఖాస్తు పత్రాలు, స్పష్టమైన అర్హత నియమాలు, అదనపు క్షేత్రస్థాయి సిబ్బంది లేదా సంప్రదాయ గణాంక సాధనాల వంటి సరళమైన ప్రత్యామ్నాయాలతో ప్రభుత్వాలు AIని పోల్చి చూడాలి.

• తప్పుడు సానుకూల ఫలితాలు (false positives) అర్హులైన లబ్ధిదారులను లేదా చట్టబద్ధ లావాదేవీలను తప్పుగా అనుమానాస్పదమైనవిగా గుర్తిస్తాయి; తప్పుడు ప్రతికూల ఫలితాలు (false negatives) నిజమైన ప్రమాదాలను గుర్తించవు.
• వాస్తవ ప్రపంచ పరిస్థితుల్లో మార్పుల వల్ల ఒక నమూనా విశ్వసనీయత తగ్గినప్పుడు నమూనా విచలనం (model drift) సంభవిస్తుంది.
• సమీక్షకులకు సమయం, శిక్షణ, అధికారం, సంబంధిత ఆధారాల ప్రాప్యత ఉన్నప్పుడే మానవ పర్యవేక్షణ అర్థవంతంగా ఉంటుంది.

4. రాజ్యాంగ, చట్టపరమైన, నైతిక పునాదులు

ప్రభుత్వ రంగ AI సాధారణ రాజ్యాంగ, పరిపాలనా చట్టాలకు లోబడే ఉంటుంది. అధికరణం 14 సమానత్వాన్ని నిర్దేశిస్తూ, ప్రభుత్వ ఏకపక్ష చర్యల నుంచి రక్షిస్తుంది. పర్యవేక్షణ లేదా స్వయంచాలక ఆంక్షలు భావప్రకటన, సంఘాలు ఏర్పాటు చేసుకునే స్వేచ్ఛలను ప్రభావితం చేసినప్పుడు అధికరణం 19 వర్తిస్తుంది. అధికరణం 21 జీవనం, వ్యక్తిగత స్వేచ్ఛను పరిరక్షిస్తుంది; 2017లో జస్టిస్ కె.ఎస్. పుట్టస్వామి వర్సెస్ భారత యూనియన్ కేసులో సుప్రీంకోర్టు గోప్యతను ప్రాథమిక హక్కుగా గుర్తించింది. గోప్యతలో ప్రభుత్వ జోక్యం చట్టబద్ధత, చట్టబద్ధమైన ప్రయోజనం, అనుపాతబద్ధత, రక్షణ చర్యలకు సంబంధించిన వర్తించే ప్రమాణాలను నెరవేర్చాలి.

డిజిటల్ వ్యక్తిగత డేటా పరిరక్షణ చట్టం, 2023 డిజిటల్ వ్యక్తిగత డేటాకు చట్టబద్ధ వ్యవస్థను అందిస్తుంది. ఇందులోని బాధ్యతలు, మినహాయింపుల వర్తింపు సంబంధిత నిబంధనలు, అమలు ప్రారంభ ఏర్పాట్లపై ఆధారపడుతుంది. ఇది సమగ్ర AI చట్టం కాదు; ప్రతి అల్గోరిథమిక్ నిర్ణయానికి వివరణ పొందే సాధారణ హక్కును కూడా కల్పించదు. సమాచార సాంకేతికత చట్టం, 2000, రంగాలవారీ నియంత్రణలు, గోప్యతా బాధ్యతలు, సైబర్ భద్రతా అవసరాలు కూడా వర్తించవచ్చు.

నిర్ణయాలు హక్కులు లేదా ప్రయోజనాలను ప్రభావితం చేసే సందర్భాల్లో సహజ న్యాయం ప్రక్రియాపరమైన నిష్పాక్షికతను కోరుతుంది. వర్తించే చట్టం, సందర్భాన్ని బట్టి ఇందులో నోటీసు, స్పందించే అవకాశం, కారణసహిత ఉత్తర్వులు ఉంటాయి. నమూనా అభివృద్ధిని బయటి సంస్థలకు అప్పగించడం వల్ల ప్రభుత్వ సంస్థ చట్టపరమైన బాధ్యత సరఫరాదారుకు బదిలీ కాదు. సమాచార హక్కు చట్టం, 2005 దాని మినహాయింపులు, సమాచార వెల్లడికి సంబంధించిన నియమాలకు లోబడి పరిశీలనకు తోడ్పడగలదు.

NITI Aayog 2021 బాధ్యతాయుత AI పత్రాలు భద్రత, సమానత్వం, సమ్మిళితత్వం, గోప్యత, పారదర్శకత, జవాబుదారీతనం వంటి సూత్రాలను నొక్కిచెబుతున్నాయి. కృత్రిమ మేధస్సు నైతికతపై UNESCO 2021 సిఫార్సు ప్రపంచస్థాయి ప్రమాణాత్మక ఆధారాన్ని అందిస్తుంది. ఈ వ్యవస్థలు విధానాలకు మార్గనిర్దేశం చేస్తాయి. అయితే వీటిని నేరుగా అమలు చేయదగిన చట్టబద్ధ హక్కులతో సమానంగా భావించకూడదు.

5. జవాబుదారీతనంతో కూడిన AI ఆధారిత పాలన రూపకల్పన

ప్రమాద ఆధారిత విధానం సాంకేతికత అందుబాటుతో కాకుండా ప్రజా సమస్యతో ప్రారంభం కావాలి. శాఖలు చట్టపరమైన ప్రాతిపదికను, ప్రభావిత జనాభాను, ఆశించిన ప్రయోజనాలను, AI రహిత ప్రత్యామ్నాయాలను గుర్తించాలి. అధిక ప్రభావం కలిగించే అమలుకు ముందు అల్గోరిథమిక్ ప్రభావ మదింపు ద్వారా వివక్ష, గోప్యత, సైబర్ భద్రత, మినహాయింపు, తప్పుల పర్యవసానాలను పరిశీలించాలి. కేవలం సాంకేతికంగా సాధ్యమైనంత మాత్రాన నిషేధిత లేదా అనుపాతబద్ధం కాని వినియోగాలను కొనసాగించకూడదు.

సేకరణ ఒప్పందాలు డేటా యాజమాన్యం, భద్రతా నియంత్రణలు, ఆడిట్ ప్రాప్యత, పనితీరు ప్రమాణాలు, ఘటనల నివేదన, నిష్క్రమణ ఏర్పాట్లను నిర్దేశించాలి. పరీక్షల్లో భారతీయ పరిస్థితులకు ప్రాతినిధ్యం వహించే పరిస్థితులను, వర్గాలవారీగా విభజించిన ఫలితాలను ఉపయోగించాలి. ప్రయోగాత్మక అమలుకు కొలవదగిన ప్రాథమిక స్థితి ప్రమాణాలు, స్వతంత్ర మూల్యాంకనం అవసరం; విజయవంతమైన ప్రదర్శన మాత్రమే దేశవ్యాప్త అమలుకు తగిన ఆధారం కాదు.

ఒక సేవపై AI గణనీయమైన ప్రభావం చూపినప్పుడు పౌరులకు సమాచారం అందాలి; సవరణ లేదా అప్పీల్ కోసం స్పష్టమైన సూచనలు ఇవ్వాలి. చట్టబద్ధ ప్రయోజనాలపై ప్రతికూల నిర్ణయాలు కేవలం ధృవీకరించని నమూనా ఫలితంపై ఆధారపడకూడదు. స్పష్టంగా గుర్తించిన అధికారులే బాధ్యత వహించాలి; నమూనా సంస్కరణలు, ఆధారాలు, మానవ జోక్యాలను లాగ్‌లలో నమోదు చేయాలి. క్రమబద్ధమైన ఆడిట్‌లు సాంకేతిక పనితీరుతోపాటు వాస్తవ సామాజిక ఫలితాలను కూడా అంచనా వేయాలి.

చివరగా, ప్రభుత్వాలకు పరిపాలకులు, సంబంధిత రంగ నిపుణులు, సాంకేతిక నిపుణులు, న్యాయవాదులు, సామాజిక శాస్త్రవేత్తలతో కూడిన బహుశాఖా బృందాలు అవసరం. ప్రజా సంప్రదింపులు, క్షేత్రస్థాయి ఉద్యోగుల అభిప్రాయాలు ప్రయోగశాల పరీక్షల్లో గుర్తించని హానులను వెల్లడించగలవు. హక్కులను పరిరక్షిస్తూ పరిపాలనా సామర్థ్యాన్ని పెంపొందించడం భారతదేశ లక్ష్యం కావాలి: అందుబాటులో ఉండే సేవలు, సవాలు చేయగల నిర్ణయాలు, ప్రజాస్వామ్య నియంత్రణను కొనసాగిస్తూ ప్రజా ప్రయోజనాన్ని మెరుగుపరచడానికి AIని ఉపయోగించాలి.

• కేవలం చాట్‌బాట్ వినియోగ పరిమాణాన్ని కాకుండా, మినహాయింపుల తగ్గుదల, వేగవంతమైన ఫిర్యాదుల పరిష్కారం, తక్కువ దోషాల రేట్లు వంటి ఫలితాలను కొలవాలి.
• ప్రత్యామ్నాయ సేవలను అందించాలి; తీవ్రమైన వైఫల్యాలు బయటపడినప్పుడు వ్యవస్థల వినియోగాన్ని నిలిపివేయాలి.
• వ్యక్తిగత డేటాను లేదా చట్టబద్ధమైన భద్రతా సున్నిత వివరాలను బహిర్గతం చేయకుండా అధిక ప్రభావం కలిగించే వ్యవస్థల గురించి సులభంగా అందుబాటులో ఉండే సమాచారాన్ని ప్రచురించాలి.

సాధన ప్రశ్నలు