કેન્દ્ર સરકારે સોશિયલ મીડિયા પ્લેટફોર્મ X ને કડક નોટિસ ફટકારી, Grok AI માંથી અશ્લીલ કન્ટેન્ટ દૂર કરવાનો નિર્દેશ આપ્યો

કેન્દ્ર સરકારે સોશિયલ મીડિયા પ્લેટફોર્મ X ને કડક નોટિસ ફટકારી છે, જેમાં તેને તેના Grok AI માંથી અશ્લીલ કન્ટેન્ટ દૂર કરવાનો નિર્દેશ આપવામાં આવ્યો છે. સરકારે કંપનીને 72 કલાકની અંદર રિપોર્ટ સબમિટ કરવા પણ કહ્યું છે.

છેલ્લા કેટલાક દિવસોમાં સોશિયલ મીડિયા પ્લેટફોર્મ X ના જનરેટિવ AI ચેટબોટ Grok નો દુરુપયોગ વધી રહ્યો છે, જેનો ઉપયોગ વપરાશકર્તાઓ અશ્લીલ કન્ટેન્ટ બનાવવા માટે કરી રહ્યા છે. આ વધતા વલણથી કેન્દ્ર સરકારની ચિંતા વધી છે અને ભારતના ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (IT મંત્રાલય) એ કડક કાર્યવાહી કરી છે અને X ને તાત્કાલિક તેની Grok AI ટેકનોલોજીની સમીક્ષા કરવાનો આદેશ આપ્યો છે. સરકારે એ પણ નિર્દેશ આપ્યો છે કે આ મામલે લેવામાં આવેલી કોઈપણ કાર્યવાહી અથવા સમીક્ષા 72 કલાકની અંદર કેન્દ્ર સરકારને રિપોર્ટ કરવામાં આવે.

હકીકતમાં, X વપરાશકર્તાઓ ફોટા પોસ્ટ કરી નિર્દેશ આપતા હતા કે મહિલાના કપડાં દૂર કરી તેને વધુ ઉત્તેજક રીતે પ્રદર્શિત કરો. ઘણી વખત Grok પરવાનગી વિના મહિલાઓના બદલાવ જેવા આઉટપુટ આપ્યું, જેના પરિણામે અશ્લીલ રુપાંતરણવાળી તસવીરો સામે આવી, જે પ્લેટફોર્મની પોતાની નીતિઓ અને ભારતીય કાયદાઓનું ઉલ્લંઘન કરે છે.