D-News: కంపెనీల్లో Agentic AI వినియోగం వేగంగా పెరుగుతోంది. దీంతో AI ఖర్చులు కూడా ఊహించని స్థాయిలో పెరిగే అవకాశం ఉందని Gorilla Logic నివేదిక తెలిపింది. ముఖ్యంగా AI ఏజెంట్లు, కోడింగ్ టూల్స్, సాఫ్ట్‌వేర్ డెవలప్‌మెంట్‌లో వినియోగం పెరగడంతో CFOలు తమ AI బడ్జెట్లను మళ్లీ పరిశీలించాల్సి వస్తోంది.
Token ఖర్చులు ఎందుకు కీలకంగా మారాయి?
సాధారణ సాఫ్ట్‌వేర్‌లో ఉద్యోగుల సంఖ్య లేదా సీట్ల ఆధారంగా ఖర్చు నిర్ణయమవుతుంది. కానీ Agentic AIలో ఖర్చు వినియోగం ఆధారంగా పెరుగుతుంది. AI మోడళ్లు సమాచారాన్ని చదవడం, ప్రాసెస్ చేయడం, సమాధానాలు ఇవ్వడం కోసం టోకెన్లను ఉపయోగిస్తాయి. ఒక క్లిష్టమైన పని ఎక్కువ సమయం కొనసాగితే వేలాది టోకెన్లు ఖర్చవుతాయి. దీంతో మొత్తం బిల్లు వేగంగా పెరగొచ్చు.
ఒక్క ఇంజనీర్‌కు నెలకు $3,000?
రెండు Agentic AI కోడింగ్ టూల్స్‌ను ఉద్యోగులకు అందిస్తే ఒక్క ఇంజనీర్‌కు నెలకు $3,000 వరకు ఖర్చు కావచ్చని నివేదిక అంచనా వేసింది. అంటే ఏడాదికి సుమారు $36,000. ఒక సంస్థలో 4,000 మంది ఇంజనీర్లు ఉంటే ఈ ఖర్చు దాదాపు $144 మిలియన్లకు చేరొచ్చని నివేదిక పేర్కొంది. అదేవిధంగా, Metaలో AI టోకెన్ ఖర్చులు 2026లో బిలియన్ల డాలర్లకు చేరే అవకాశం ఉందని అంతర్గతంగా హెచ్చరికలు వచ్చినట్లు నివేదిక తెలిపింది.
CFOలకు కొత్త సవాలు
Agentic AI వ్యవస్థలు ప్రతి ప్రశ్నకు పెద్ద మొత్తంలో బ్యాక్‌గ్రౌండ్ సమాచారాన్ని ప్రాసెస్ చేయగలవు. కొన్ని మోడళ్లు రీజనింగ్ కోసం అదనపు టోకెన్లను కూడా ఉపయోగిస్తాయి. అందువల్ల ఖర్చును ముందుగానే అంచనా వేయడం కష్టమవుతోంది.
ఖర్చులను తగ్గించే మార్గాలు
కంపెనీలు Agent Gatewayలు, Orchestration టూల్స్ ఉపయోగించి అవసరమైనప్పుడు తక్కువ ఖర్చు ఉన్న AI మోడళ్లకు పనులను మార్చవచ్చు. అలాగే చిన్న పనులకు **Small Language Models (SLM)**ను ఉపయోగించడం ద్వారా ఖర్చును తగ్గించవచ్చు. మొత్తంగా, Agentic AI ఉత్పాదకతను పెంచుతున్నప్పటికీ, దాని Token-based ఖర్చులు కార్పొరేట్ బడ్జెట్లకు కొత్త సవాలుగా మారుతున్నాయని Gorilla Logic నివేదిక తెలిపింది.