D-News: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్లు మరింత స్వయం ప్రతిపత్తితో పనిచేసే దిశగా వెళ్తున్న నేపథ్యంలో, వాటి అభివృద్ధిలో వేగమే ఏకైక లక్ష్యం కాకూడదని ఈజిప్టుకు చెందిన AI నిపుణుడు అహ్మద్ గమాల్ ఎల్షర్కావీ అన్నారు. AI ఎంత వేగంగా అభివృద్ధి చెందుతుందో, దాన్ని నియంత్రించే వ్యవస్థలు కూడా అంతే వేగంగా అభివృద్ధి చెందుతున్నాయా అనేది ముఖ్యమని చెప్పారు.
AIని ఆపడం కాదు.. నియంత్రణపై దృష్టి
BRICS Summit 2026 సందర్భంగా ANIతో మాట్లాడిన ఎల్షర్కావీ కీలక వ్యాఖ్యలు చేశారు. AI అభివృద్ధిని నెమ్మదించాలా అనే ప్రశ్న కంటే, AIని నియంత్రించే సామర్థ్యం దాని అభివృద్ధికి అనుగుణంగా పెరుగుతోందా? అనేదే అసలు ప్రశ్న అని అన్నారు.
AI వల్ల ఇప్పటికే ప్రయోజనం పొందుతున్న వ్యాపారాలు, ప్రభుత్వాలు దాని వినియోగాన్ని ఆపాల్సిన అవసరం లేదని చెప్పారు. అయితే భవిష్యత్తులో మరింత స్వయం ప్రతిపత్తి, ఏజెంటిక్ సామర్థ్యాలు కలిగిన AI మోడళ్లు పెరిగే కొద్దీ అదనపు జాగ్రత్తలు అవసరమని పేర్కొన్నారు.
ఏజెంటిక్ AIపై ప్రత్యేక జాగ్రత్త
కొత్త తరం ఫ్రాంటియర్ AI మోడళ్లు తక్కువ మానవ జోక్యంతో నిర్ణయాలు తీసుకోవడం, పనులు పూర్తి చేయడం వైపు వెళ్తున్నాయని ఎల్షర్కావీ తెలిపారు. ఇలాంటి పరిస్థితుల్లో AI అభివృద్ధిని కేవలం వేగం ఆధారంగా చూడకూడదని అన్నారు. AI వ్యవస్థలు సురక్షితంగా, నియంత్రణలో, మానవ పర్యవేక్షణలో ఉండేలా చూడాలని సూచించారు.
సేఫ్టీ ప్రమాణాలు మరింత బలపడాలి
AI రంగంలో మరింత కఠినమైన మూల్యాంకనాలు, స్పష్టమైన భద్రతా ప్రమాణాలు, మానవ బాధ్యత అవసరమని ఎల్షర్కావీ అన్నారు. AI రంగంలోనే ఉన్న ప్రముఖులు డారియో అమోడీ, సామ్ ఆల్ట్మన్, డెమిస్ హసాబిస్ వంటి వ్యక్తులు కూడా AI అభివృద్ధి వేగంపై ఆందోళనలు వ్యక్తం చేస్తున్నారని గుర్తుచేశారు. వారి హెచ్చరికలను సీరియస్గా తీసుకోవాల్సిన అవసరం ఉందని చెప్పారు.
తదుపరి AI రేసు ఎలా ఉండాలి?
తదుపరి AI పోటీ ఎవరు ముందుగా అత్యంత శక్తివంతమైన మోడల్ను తయారు చేస్తారనే దానిపై మాత్రమే ఉండకూడదని ఎల్షర్కావీ అభిప్రాయపడ్డారు. వేగంగా అభివృద్ధి చేస్తూనే AIని సురక్షితంగా, నియంత్రించగలిగేలా, చివరికి మానవుల నియంత్రణలో ఉండేలా ఎవరు రూపొందించగలరో అదే ముఖ్యమని అన్నారు.
AI అభివృద్ధి వేగంపై ప్రపంచవ్యాప్తంగా చర్చ
ఫ్రాంటియర్ AI అభివృద్ధి వేగంపై ప్రస్తుతం ప్రపంచవ్యాప్తంగా చర్చ జరుగుతోంది. Anthropic CEO డారియో అమోడీ కూడా ఇటీవల AI సామర్థ్యాల అభివృద్ధి వేగాన్ని తగ్గించాల్సిన అవసరం ఉందని అన్నారు. AI ప్రమాదాలను నిర్వహించేందుకు ఎక్కువ సమయం లభించేలా మూడు అంశాలతో కూడిన ప్రణాళికను ఆయన ప్రతిపాదించారు.
అందులో భాగంగా, Anthropic తన AI వ్యవస్థలను స్వతంత్రంగా పరిశీలించేందుకు థర్డ్-పార్టీ మూల్యాంకన సంస్థలకు దీర్ఘకాలిక యాక్సెస్ ఇవ్వనున్నట్లు అమోడీ తెలిపారు. AI మోడళ్ల భద్రతా ప్రమాణాలు, సంఘటనలు, శిక్షణ సమయంలో మోడళ్ల ప్రవర్తన వంటి అంశాలను స్వతంత్రంగా పరిశీలించేందుకు ఈ విధానం ఉపయోగపడుతుందని ఆయన పేర్కొన్నారు.