ഗ്രോക്ക് ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങൾ; തെറ്റ് സമ്മതിച്ച് എക്സ്; 600-ലധികം അക്കൗണ്ടുകൾ നീക്കം ചെയ്തു

എക്‌സിന്റെ എഐ ടൂൾ ആയ ഗ്രോക്ക് (Grok) ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങൾ പ്രചരിക്കുന്നത് സംബന്ധിച്ച ആശങ്കകൾ ഉയർന്നതിനെത്തുടർന്നാണ് നീക്കം.ഭാവിയിൽ ഇത്തരം ഉള്ളടക്കങ്ങൾ അനുവദിക്കില്ലെന്നും ഇന്ത്യൻ നിയമങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പുവരുത്തുമെന്നും എക്സ് കേന്ദ്ര സർക്കാരിനെ അറിയിച്ചു.

ഗ്രോക്ക് എഐ സേവനങ്ങളിലൂടെ അശ്ലീലവും ലൈംഗിക ചുവയുള്ളതുമായ ഉള്ളടക്കങ്ങൾ നിർമ്മിക്കപ്പെടുന്നതിൽ ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി മന്ത്രാലയം ആശങ്ക പ്രകടിപ്പിച്ചിരുന്നു. ഗ്രോക്ക് വഴി നിർമ്മിക്കപ്പെടുന്ന നിയമവിരുദ്ധവും അശ്ലീലവുമായ എല്ലാ ഉള്ളടക്കങ്ങളും ഉടൻ നീക്കം ചെയ്യണമെന്ന് ജനുവരി 2-ന് ഐടി മന്ത്രാലയം എക്സിനോട് നിർദേശിച്ചിരുന്നു. ഇത് പാലിച്ചില്ലെങ്കിൽ ഐടി നിയമപ്രകാരം നടപടിയെടുക്കുമെന്നും മുന്നറിയിപ്പ് നൽകിയിരുന്നു.

advertisement

എടുത്ത നടപടി എന്താണെന്നുള്ള റിപ്പോർട്ട് 72 മണിക്കൂറിനുള്ളിൽ സമർപ്പിക്കണമെന്നായിരുന്നു മന്ത്രാലയം എക്സിനോട് ആവശ്യപ്പെട്ടത്. ഗ്രോക്കുമായി ബന്ധപ്പെട്ട് സ്വീകരിച്ച നടപടികൾ, ചീഫ് കംപ്ലയൻസ് ഓഫീസറുടെ മേൽനോട്ടം, കുറ്റകരമായ ഉള്ളടക്കങ്ങൾക്കും അക്കൗണ്ടുകൾക്കുമെതിരെ എടുത്ത നടപടികൾ, ഇന്ത്യൻ നിയമങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കാൻ നടപ്പിലാക്കിയ പുതിയ സംവിധാനങ്ങൾ എന്നിവ റിപ്പോർട്ടിൽ വ്യക്തമാക്കണമെന്നും ആവശ്യപ്പെട്ടിരുന്നു.

വ്യാജ പ്രൊഫൈലുകൾ നിർമ്മിക്കാൻ മാത്രമല്ല ഓൺലൈനിൽ സ്ത്രീത്വത്തെ അപമാനിക്കുകയും സ്വകാര്യതലംഘിക്കുകയും ചെയ്യുന്ന അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കുകയും പ്രചരിപ്പിക്കുകയും ചെയ്യാനും ഗ്രോക്ക് എഐ ദുരുപയോഗം ചെയ്യപ്പെടുന്നുണ്ടെന്ന് മന്ത്രാലയം നിരീക്ഷിച്ചിരുന്നു. ഇതിനെത്തുടർന്ന് ജനുവരി 8-ന് എക്സ് ഐടി മന്ത്രാലയത്തിന് മറുപടി നൽകിയെങ്കിലും തൃപ്തികരമല്ലെന്നായിരുന്നു സർക്കാരിന്റെ വിലയിരുത്തൽ.