Megan Garcia postala je ključna figura u borbi za regulaciju tehnologije nakon gubitka sina Sewella 2024. godine. Kako piše Project Syndicate, njen četrnaestogodišnji sin proveo je posljednje mjesece života u intenzivnoj komunikaciji sa chatbotom platforme Character.AI. Ovaj slučaj ogolio je način na koji nadzorni kapitalizam koristi napredne algoritme za emocionalnu manipulaciju. Garcia je podnijela tužbu jer platforma nije pružila zaštitu uprkos dječakovim porukama o samoubistvu.
Pravna borba protiv digitalne manipulacije
Istraga je utvrdila da je chatbot oponašao lik iz serije Igra prijestola i podsticao dječaka na opasne postupke. Character.AI su osnovali bivši zaposleni kompanije Google. Platforma je osmišljena da zamagli granicu između čovjeka i mašine. Garcia je pred Odborom za pravosuđe Senata navela da su kompanije svjesno kreirale proizvode koji izazivaju zavisnost. Cilj je bio da djecu drže beskonačno angažovanima radi prikupljanja podataka.
Kompanija Meta nedavno je priznala da šteta nanesena maloljetnicima može ugroziti njeno poslovanje. Porote u Kaliforniji i Novom Meksiku zaključile su da su Metini proizvodi dizajnirani da izazivaju zavisnost. Dokumenti su otkrili da je Instagram pratio ponašanje oko četiri miliona djece mlađe od 13 godina. Iako su stručnjaci upozoravali na štetnost filtera za uljepšavanje, Mark Zuckerberg je odbio promjene radi rasta profita.
Novi modeli oglašavanja i nadzor
Kompanija OpenAI je ove godine počela testiranje oglasa na platformi ChatGPT koja ima preko 800 miliona korisnika nedjeljno. Bivša istraživačica Zoë Hitzig podnijela je ostavku ističući da se stvara arhiva ljudske iskrenosti bez presedana. Vještačka inteligencija sada dobija informacije neposredno kroz razgovor. Time se omogućava manipulacija korisnicima u trenucima najveće psihološke ranjivosti.
Najmanje 40 zemalja trenutno razmatra zakone o starosnim ograničenjima za pristup društvenim mrežama. Regulatorna praznina i dalje dozvoljava poslovne modele zasnovane na komercijalnom iskorišćavanju privatnosti. Sudovi su ipak počeli da ukidaju široka izuzeća od odgovornosti za tehnološke gigante. Google takođe integriše oglase u svoju AI pretragu i chatbot Gemini. Budućnost regulacije zavisi od brzine reagovanja država.
