కాంపాక్ట్ AI పరికరాలు ఎక్కువగా ప్రధాన స్రవంతిలోకి మారాయి, అయితే ఒక కొత్త స్టార్టప్ ప్రపంచంలోనే అతి చిన్నదైన AI సూపర్‌కంప్యూటర్‌ని పరిచయం చేయడం ద్వారా అడ్డంకులను అధిగమించింది, ఇది కాగితంపై అత్యంత సామర్థ్యంతో కనిపిస్తుంది.
Tiiny యొక్క AI కొత్త AI పాకెట్ ల్యాబ్ సరికొత్త ARM v9.2 కోర్స్ ఆన్‌బోర్డ్‌ను కలిగి ఉంది, 120B LLMలను అమలు చేయడానికి శక్తిని తీసుకువస్తుంది
ఎడ్జ్ AI అనేది కంప్యూటింగ్ పరిశ్రమలో అభివృద్ధి చెందుతున్న విభాగంగా మారింది, ప్రధానంగా స్థానిక మెషీన్‌లలో ఓపెన్ సోర్స్ మోడల్‌లను అమలు చేయడం వలన మరింత వ్యక్తిగతీకరించిన పనిభారం పెరుగుతుంది. అయితే, దీనికి ఖరీదైన హార్డ్‌వేర్ కూడా అవసరం. NVIDIA యొక్క DGX స్పార్క్ వంటి పరికరాల ధర $4,000 వరకు ఉంటుంది, ఇది సాధారణ వినియోగదారుకు సాధ్యం కాదు. Tiiny AI అనే స్టార్టప్ ఈ అంతరాన్ని తగ్గించాలని యోచిస్తోంది, ఖర్చుతో కూడుకున్న పరిష్కారాన్ని పరిచయం చేయడం ద్వారా మాత్రమే కాకుండా, Tiiny AI పాకెట్ ల్యాబ్ అని పిలువబడే ‘ప్రపంచంలోని అతి చిన్న’ సూపర్ కంప్యూటర్‌గా పేర్కొనబడే పరికరాన్ని కూడా పరిచయం చేయడం ద్వారా.
ఆసక్తికరంగా, పరికరం కేవలం 14.2 × 8 × 2.53 సెం.మీ., బరువు 300 గ్రా, అయినప్పటికీ సూపర్ కంప్యూటర్ 120-బిలియన్-పారామీటర్ మోడల్‌ను విజయవంతంగా అమలు చేయగలదని Tiiny AI పేర్కొంది, ఇది ఒక రకమైన విజయం. ఈ మెషీన్‌తో ఉపయోగించగల LLMలు “PhD-స్థాయి తార్కికం, బహుళ-దశల విశ్లేషణ మరియు లోతైన సందర్భోచిత అవగాహన” కోసం సరైనవిగా చెప్పబడ్డాయి. ఆన్-డివైస్ సామర్థ్యాలతో, AI పాకెట్ ల్యాబ్ వినియోగదారులకు మాత్రమే కాకుండా స్థానిక LLM విస్తరణతో ప్రయోగాలు చేయాలనుకునే వారికి కూడా అనువైనది.
| Category | Specification |
|---|---|
| Processor | ARMv9.2 12-core CPU |
| AI Compute Power | Custom heterogeneous module (SoC + dNPU), ≈ 190 TOPS |
| Memory & Storage | 80GB LPDDR5X RAM + 1TB SSD |
| Model Capacity | Runs up to 120B-parameter LLMs fully on-device |
| Power Efficiency | 30W TDP, ~65W typical system power |
| Dimensions & Weight | 14.2 × 8 × 2.53 cm, ~300g (pocket-sized) |
| Ecosystem | One-click deployment for dozens of open-source LLMs & agent frameworks |
| Connectivity | Fully offline operation — no internet or cloud required |
Tiiny AI వెల్లడించిన దాని ఆధారంగా, AI పాకెట్ ల్యాబ్ GPT-OSS, లామా, Qwen, DeepSeek, Mistral మరియు Phi నుండి మోడల్‌లకు మద్దతు ఇస్తుంది. AI పాకెట్ ల్యాబ్ యొక్క అత్యంత ఆకర్షణీయమైన అంశం ఏమిటంటే, ఇది వివిక్త NPU ఆన్‌బోర్డ్‌తో 190 టాప్‌లను అందించగలదు. 80 GB LPDDR5X RAM ఆన్‌బోర్డ్‌తో, మీరు దూకుడు పరిమాణాన్ని ప్రారంభించవచ్చు, 120B మోడల్‌ను స్థానిక వాతావరణంలో సజావుగా అమలు చేయడానికి అనుమతిస్తుంది. అంతేకాకుండా, Tiiny AI సంస్థ 120B ఇంటర్‌ఫేస్‌ను ఆచరణాత్మకంగా చేసే రెండు పద్ధతులను ఉపయోగించిందని మరియు అవి ఇక్కడ ఉన్నాయి:
TurboSparse, ఒక న్యూరాన్-స్థాయి స్పార్స్ యాక్టివేషన్ టెక్నిక్, పూర్తి మోడల్ ఇంటెలిజెన్స్‌ను కొనసాగిస్తూ అనుమితి సామర్థ్యాన్ని గణనీయంగా మెరుగుపరుస్తుంది.
పవర్‌ఇన్‌ఫర్, 8,000 కంటే ఎక్కువ GitHub స్టార్‌లతో కూడిన ఓపెన్-సోర్స్ హెటెరోజెనియస్ ఇన్ఫరెన్స్ ఇంజన్, భారీ LLM పనిభారాన్ని వేగవంతం చేస్తుంది, ఇది CPU మరియు NPU అంతటా గణనను డైనమిక్‌గా పంపిణీ చేస్తుంది, ఇది సాంప్రదాయ విద్యుత్ వినియోగంలో కొంత భాగానికి తీవ్రమైన-గ్రేడ్ పనితీరును అందిస్తుంది. మొత్తంగా, ఈ సాంకేతికతలు Tiiny AI పాకెట్ ల్యాబ్‌కి గతంలో వేల డాలర్లు ఖరీదు చేసే ప్రొఫెషనల్ GPUలు అవసరమయ్యే సామర్థ్యాలను అందించడానికి అనుమతిస్తాయి.
పరికరాన్ని CES 2026లో ప్రదర్శించడానికి సెట్ చేయబడింది. సంస్థ విడుదల తేదీ మరియు రిటైల్ లభ్యత గురించి వివరాలను వెల్లడించనప్పటికీ, AI పాకెట్ ల్యాబ్ ఖచ్చితంగా మంచి పరికరంగా కనిపిస్తుంది. దీని ఇండస్ట్రీ అరంగేట్రం ఎలా ఉంటుందనేది ఆసక్తికరంగా మారింది.