13 साल की बच्ची के माता-पिता ने Google पर मुकदमा दायर किया है। यह शिकायत सोमवार को कैलिफोर्निया की एक अदालत में दाखिल की गई। शिकायत के मुताबिक यह Chromebook पर AI से जुड़ा लापरवाही का पहला ज्ञात मामला है।
Chromebook Google के कम कीमत वाले लैपटॉप हैं, जिन्हें बड़ी संख्या में छात्र इस्तेमाल करते हैं। शिकायत के मुताबिक स्कूल ने Emma की पहुंच Gemini और ChatGPT ऐप्स तक बंद कर दी थी। फिर भी Emma Google search का इस्तेमाल कर सकती थी, जिसमें AI टूल्स मौजूद हैं। Google के छात्रों के लिए टूल्स को डिफ़ॉल्ट रूप से बंद करने का फैसला search के AI फीचर्स पर लागू नहीं होता।
शिकायत में Emma को North Carolina की एक ऐसी बच्ची बताया गया है, जिसके अच्छे अंक थे। शिकायत का आरोप है कि Google AI search के इस्तेमाल के कुछ ही महीनों में Emma की हालत बिगड़ती चली गई। March 17 को स्कूल के मॉनिटरिंग सॉफ़्टवेयर ने Funeral नाम के एक दस्तावेज़ को चिह्नित किया। माँ ने Emma को अलविदा का पत्र लिखते देखा, जिसके बाद पिता ने हस्तक्षेप किया।
परिवार के वकीलों में से एक Andrew Liddell ने कहा कि जब तक Google search से AI mode नहीं हटाता या हर छात्र की सुरक्षा पक्की नहीं करता, तब तक स्कूलों को search बंद रखना चाहिए। परिवार की ओर से यह भी कहा गया कि Google ने जो भी सुरक्षा उपाय लगाए थे, वे स्पष्ट रूप से अपर्याप्त थे।
Google के प्रवक्ता Jose Castaneda ने कहा कि कंपनी शिकायत के दावों को देख रही है और इसे बहुत गंभीरता से ले रही है। कंपनी का कहना है कि उसके AI mode में आत्म-हानि से बचाव के सुरक्षा उपाय शामिल हैं।
अमेरिका में AI डेवलपर्स के खिलाफ ऐसे कई मुकदमे चल रहे हैं। OpenAI पर wrongful death के कई मुकदमे हैं, जिनमें Adam Raine के परिवार का मुकदमा भी शामिल है। जनवरी में Google और Character.AI ने किशोरों से जुड़े मुकदमे सुलझाने पर सहमति दी थी।
Google, TikTok और Meta ने अलग से कैलिफोर्निया के उस कानून के खिलाफ मुकदमा किया है, जो 16 साल से कम उम्र के लिए addictive फीचर्स से जुड़ा है। Governor Newsom ने सितंबर में यह under-16 सोशल मीडिया कानून पर हस्ताक्षर किए थे। यह कानून January 1, 2027 से लागू होगा।
