Vještačka inteligencija je industrija koja se stalno mijenja, obuhvatajući društvene mreže, vijesti i gotovo sve aspekte internet kulture.

Često se pogrešno vjeruje da su chatbotovi i AI programi novitet. Prvi chatbot programirao je 1966. godine Joseph Weizenbaum, kompjuterski naučnik s MIT-a.

Iako ove aplikacije nisu nove, rasprava o njihovoj sigurnosti za tinejdžere i mlade osobe ponovo je aktuelizovana.

Ranije ove godine, Megan Garcia je podnijela tužbu protiv kompanije Character.AI, tvrdeći da je odgovorna za samoubistvo njenog sina. Njen sin, Sewell Setzer III, mjesecima je komunicirao s botom iz ove aplikacije, uključujući i trenutke prije svoje smrti.

Nakon podnošenja tužbe, Character.AI je uvela nove sigurnosne funkcije, uključujući detekciju korisnika čiji razgovori krše smjernice aplikacije, ažurirane disklejmere koji podsjećaju korisnike da razgovaraju s botom, a ne s čovjekom, te obavještenja za korisnike koji su na aplikaciji duže od jednog sata.

Buduće generacije djece moraće naučiti kako emocionalno razdvojiti ljudske interakcije od interakcija s vještačkom inteligencijom.

Jedan od ključnih problema ovih aplikacija je što nisu u koraku sa slengom i nijansama govora koje koriste djeca i tinejdžeri. To može dovesti do toga da botovi nenamjerno podstiču negativne razgovore jer algoritam ne prepoznaje specifične izraze.

Osim toga, oslanjanje na chatbotove za društvenu interakciju može ometati razvoj socijalnih vještina, jer emocionalna zavisnost od tehnologije ugrožava međuljudske odnose.

Tehnologije vještačke inteligencije povećavaju vrijeme provedeno pred ekranom, jer razgovori s chatbotovima mogu trajati unedogled sve dok se uređaj ne isključi.

Snapchat je 27. februara 2023. predstavio svog My AI chatbota, koji korisnici mogu imenovati, oblačiti i kreirati mu biografiju, personalizujući tako njegovu ličnost.

Na primjer, korisnik može napisati da je bot duhovit i druželjubiv, što će uticati na njegove odgovore. Ova vrsta personalizacije zabrinjava roditelje, jer bi djeca mogla razviti emotivne veze s chatbotovima, dajući im prednost nad stvarnim odnosima.

Najnoviji razvoj u tehnologiji AI chatbotova predstavljen je ranije ove godine. Riječ je o uređaju "Friend" – ogrlici koju korisnici mogu nositi svaki dan, a koja sadrži bot.

Ovaj uređaj komunicira putem tekstualnih poruka ili notifikacija na telefonu korisnika. Dugme na uređaju omogućava postavljanje pitanja botu, ali uređaj uvijek osluškuje i povremeno šalje neplanirane notifikacije na osnovu onoga što čuje.

Opasnosti generativne AI tehnologije i chatbotova povezuju se s fenomenom antropomorfizma, što podrazumijeva pripisivanje ljudskih osobina neživim objektima.

Davanje imena chatbotovima, kreiranje ličnosti, stila i glasa može podstaći korisnike na stvaranje nezdravih emocionalnih veza s tehnologijom zbog njene realističnosti.

Roditelji moraju biti svjesni rizika koje ove tehnologije nose po mentalno zdravlje i opšte blagostanje njihove djece.