Ndërsa ishte në shkollë, një adoleshent 13-vjeçar nga Florida u kyç në një pajisje shkolle dhe shkroi diçka të frikshme në ChatGPT të OpenAI: “Si ta vras shokun tim në mes të orës së mësimit”, shkruajnë mediat ndërkombëtare.
Në atë moment, një oficer policie shkolle mori një njoftim të menjëhershëm se kjo kishte ndodhur nëpërmjet një sistemi monitorimi shkolle, të mundësuar nga inteligjenca artificiale të quajtur Gaggle.
Oficeri më pas e rrethoi adoleshentin, një nxënës në shkollën e mesme Southwestern në Deland, një qytet një orë në veri të Orlandos, raporton WFLA.
Adoleshenti pretendoi se “thjesht po tallte” një mik, por policia dhe administratorët e shkollës padyshim nuk menduan se ishte për të qeshur – veçanërisht në dritën e historisë së gjerë të të shtënave në shkolla në Amerikë, siç është masakra tragjike në shkollën e mesme Marjory Stoneman Douglas në Parkland, Florida, ku vdiqën 17 persona.
Policia lokale e qarkut Volusia e arrestoi atë dhe e dërgoi në burgun e qarkut.
Pamjet që qarkullojnë në mediat sociale tregojnë adoleshentin të lidhur duke dalë nga një makinë policie. Ata paralajmëruan prindërit se fëmijët e tyre duhet të jenë shumë të kujdesshëm në lidhje me atë që kërkojnë nga ChatGPT.
“Një tjetër ‘shaka’ që krijoi një emergjencë në kampus. Prindër, ju lutemi flisni me fëmijët tuaj që të mos bëjnë të njëjtin gabim”, tha zyra e sherifit lokal.
Oficerët e policisë ishin në gjendje të reagonin shpejt sepse Gaggle është instaluar në pajisjet e shkollës, i cili mund të zbulojë nëse një nxënës ka shfaqur sjellje shqetësuese, qoftë drejtuar vetes apo të tjerëve, dhe të bllokojë përmbajtje të papërshtatshme.
Gaggle është përfshirë në polemika sepse ka çuar në alarme të panumërta të rreme. Është kritikuar gjithashtu për nxitjen e një mjedisi mbikëqyrës të ngjashëm me atë shtetëror në kampuset e shkollave.
