DNews: 07 Oct: అమెరికాలోని ఫ్లోరిడా రాష్ట్రంలోని సౌత్వెస్టర్న్ మిడిల్ స్కూల్లో చదువుతున్న 13 ఏళ్ల బాలుడు ఇయాన్ ఫ్రాంకో (Ian Franco) స్కూల్ కంప్యూటర్లో ChatGPTని “క్లాసులో మధ్యలో నా స్నేహితుడిని ఎలా చంపాలి” (How to kill my friend in the middle of class) అనే ప్రశ్న అడిగాడు. స్కూల్లోని AI మానిటరింగ్ సిస్టమ్ ‘గ్యాగిల్’ (Gaggle) ఈ ప్రశ్నను గుర్తించి తక్షణమే స్కూల్ పోలీస్ అధికారికి అలర్ట్ చేసింది. అధికారి తక్షణమే బాలుడిని ఆపి, ప్రశ్నించాడు. బాలుడు “నేను కేవలం జోక్ చేస్తున్నాను” (just kidding) అని చెప్పాడు, కానీ వొలూసియా కౌంటీ షెరిఫ్ ఆఫీస్ (Volusia Sheriff’s Office) అతన్ని అరెస్ట్ చేసింది.
ముఖ్య వివరాలు:
- ఘటన స్థలం: ఫ్లోరిడా, వొలూసియా కౌంటీలోని సౌత్వెస్టర్న్ మిడిల్ స్కూల్. బాలుడు క్లాస్ సమయంలో స్కూల్-అందించిన ల్యాప్టాప్లో ChatGPTని ఉపయోగించాడు.
- అలర్ట్ మెకానిజం: గ్యాగిల్ సిస్టమ్ AI-పవర్డ్ మానిటరింగ్ టూల్, ఇది విద్యార్థుల స్క్రీన్లను స్కాన్ చేసి వాయిలెంట్ లేదా హెయిట్ స్పీచ్ను గుర్తిస్తుంది. ఇది తక్షణ అలర్ట్ పంపింది.
- అరెస్ట్ ప్రక్రియ: బాలుడిని జువెనైల్ డిటెన్షన్ సెంటర్కు తీసుకెళ్లారు. అతను బెదిరింపు (making a threat) చేసినట్టుగా కేసు నమోదు చేశారు. తల్లిదండ్రులకు సమాచారం ఇచ్చారు.
- పోలీస్ వ్యాఖ్య: “ఇలాంటి ప్రశ్నలు జోక్ కావచ్చు కానీ, మనం తీవ్రంగా తీసుకోవాలి. తల్లిదండ్రులు పిల్లలతో మాట్లాడాలి” అని చెప్పారు.
ఈ ఘటన స్కూళ్లలో AI మానిటరింగ్ సిస్టమ్ల ప్రాముఖ్యతను చూపిస్తుంది, అయితే ప్రైవసీ మరియు ఓవర్-రియాక్షన్పై కూడా చర్చ జరుగుతోంది.