ഗ്രോക്ക് എഐ വഴി കുട്ടികളുടെ അശ്ലീല ദൃശ്യങ്ങള്‍ നിര്‍മ്മിച്ചു; നിയമനടപടിയുമായി ഇലോണ്‍ മസ്‌കിന്റെ കമ്പനി

ടെക്‌സസ്: ഇലോണ്‍ മസ്‌കിന്റെ നിര്‍മ്മിത ബുദ്ധി (AI) കമ്പനിയായ എക്‌സ്.എഐ, തങ്ങളുടെ ചാറ്റ്‌ബോട്ടായ ‘ഗ്രോക്ക്’ (Grok AI) ഉപയോഗിച്ച് കുട്ടികളുടെ ലൈംഗികാതിക്രമ ദൃശ്യങ്ങള്‍ നിര്‍മ്മിച്ച ഉപഭോക്താവിനെതിരെ കോടതിയെ സമീപിച്ചു. നിര്‍മ്മിത ബുദ്ധി ഉപയോഗിച്ച് ലൈംഗികച്ചുവയുള്ളതും നിയമവിരുദ്ധവുമായ ഉള്ളടക്കങ്ങള്‍ നിര്‍മ്മിക്കുന്ന ഉപഭോക്താക്കള്‍ക്കെതിരെ ഒരു പ്രമുഖ ടെക് കമ്പനി നേരിട്ട് നിയമനടപടി സ്വീകരിക്കുന്ന ആദ്യ സംഭവങ്ങളില്‍ ഒന്നാണിത്.

ന്യൂസ്ടാഗ് വാര്‍ത്തകള്‍ വാട്‌സാപ്പില്‍ കിട്ടും >>

ടെക്‌സസിലെ നോര്‍ത്തേണ്‍ ഡിസ്ട്രിക്റ്റ് കോടതിയിലാണ് കമ്പനി ഹര്‍ജി നല്‍കിയിരിക്കുന്നത്. സൗത്ത് കരോലിനയില്‍ പ്രായപൂര്‍ത്തിയാകാത്ത കുട്ടികളെ ലൈംഗികമായി ചൂഷണം ചെയ്ത കേസില്‍ ഈ വര്‍ഷം ആദ്യം അറസ്റ്റിലായ ടെറി വെയ്ന്‍ ഹാര്‍വുഡ് (Terry Wayne Harwood) എന്നയാള്‍ക്കെതിരെയാണ് കമ്പനിയുടെ കേസ്.

സുരക്ഷാ സംവിധാനങ്ങള്‍ മറികടന്ന് വ്യാജ ചിത്രങ്ങള്‍ നിര്‍മ്മിച്ചു

സാധാരണ ചിത്രങ്ങളെ അവരുടെ അറിവോ സമ്മതമോ കൂടാതെ അശ്ലീല ചിത്രങ്ങളാക്കി മാറ്റാന്‍ ഹാര്‍വുഡ് കമ്പനിയുടെ സേവന വ്യവസ്ഥകള്‍ ലംഘിച്ചതായി എക്‌സ്.എഐ ഹര്‍ജിയില്‍ ആരോപിക്കുന്നു.

കുട്ടികളുടെയും മുതിര്‍ന്നവരുടെയും വ്യാജ ലൈംഗിക ദൃശ്യങ്ങള്‍ (Deepfakes) നിര്‍മ്മിക്കുന്നതിനായി ഹാര്‍വുഡ് ഒന്നിലധികം അക്കൗണ്ടുകള്‍ സൃഷ്ടിക്കുകയും, തെറ്റിദ്ധരിപ്പിക്കുന്ന നിര്‍ദ്ദേശങ്ങള്‍ (Misleading prompts) എഐ-ക്ക് നല്‍കുകയും ചെയ്തു. കുട്ടികളുടെ അശ്ലീല ചിത്രങ്ങള്‍ നിര്‍മ്മിക്കുന്നത് തടയാന്‍ ഗ്രോക്ക് എഐ-ല്‍ ഏര്‍പ്പെടുത്തിയിട്ടുള്ള ആന്തരിക സുരക്ഷാ സംവിധാനങ്ങളെ (Safeguards) മറികടക്കാന്‍ ഇയാള്‍ ബോധപൂര്‍വ്വം ശ്രമിച്ചതായും കമ്പനി ചൂണ്ടിക്കാണിക്കുന്നു.

ALSO READ: ‘താന്‍ മുസ്ലിമാണോ…?’ അമേരിക്കയിലെ മാളില്‍ ഇന്ത്യക്കാരനെ മതം ചോദിച്ചറിഞ്ഞ ശേഷം 15 തവണ കുത്തി

‘നിയമവിരുദ്ധമായ ഉള്ളടക്കം നിര്‍മ്മിക്കാന്‍ ഗ്രോക്ക് എഐ ഉപയോഗിക്കുന്ന ആര്‍ക്കും, അത്തരം നിയമവിരുദ്ധ ഉള്ളടക്കങ്ങള്‍ ഇന്റര്‍നെറ്റില്‍ അപ്ലോഡ് ചെയ്യുന്നവര്‍ നേരിടുന്ന അതേ കടുത്ത നിയമനടപടികള്‍ നേരിടേണ്ടി വരും.’ എന്ന് ഇലോണ്‍ മസ്‌ക് ഈ വര്‍ഷം ജനുവരിയില്‍ എക്‌സിലൂടെ അറിയിച്ചിരുന്നു.

52,000-ത്തിലധികം അക്കൗണ്ടുകള്‍ സസ്‌പെന്‍ഡ് ചെയ്തു

ഉപഭോക്താവിന്റെ ഭാഗത്തുനിന്നുണ്ടായ ഈ നിയമവിരുദ്ധമായ പ്രവര്‍ത്തനം കമ്പനിയെ വലിയ നിയമപരമായ പ്രതിസന്ധിയിലേക്കും മാനഹാനി ഉണ്ടാക്കുന്ന സാഹചര്യത്തിലേക്കും എത്തിച്ചതായി എക്‌സ്.എഐ വ്യക്തമാക്കുന്നു. ഇത്തരം ദുരുപയോഗങ്ങള്‍ തടയാന്‍ കമ്പനി കര്‍ശന നടപടികള്‍ സ്വീകരിക്കുന്നുണ്ടെന്നും ഹര്‍ജിയില്‍ പറയുന്നു.

ഈ വര്‍ഷം (2026) മാത്രം നിയമവിരുദ്ധ പ്രവര്‍ത്തനങ്ങളുടെ പേരില്‍ 52,222 അക്കൗണ്ടുകള്‍ കമ്പനി സസ്‌പെന്‍ഡ് ചെയ്തിട്ടുണ്ട്. കൂടാതെ കുട്ടികള്‍ക്കെതിരെയുള്ള അതിക്രമങ്ങള്‍ തടയുന്നതിനുള്ള നാഷണല്‍ സെന്ററിലേക്ക് (NCMEC) 73,604 റിപ്പോര്‍ട്ടുകള്‍ നല്‍കിയതായും, ഇതിലൂടെ കുറഞ്ഞത് 244 പേരുടെ അറസ്റ്റിലേക്ക് വഴിതുറന്നതായും കമ്പനി കോടതിയെ അറിയിച്ചു.

ഹാര്‍വുഡ് കമ്പനിയുടെ സേവന വ്യവസ്ഥകള്‍ ലംഘിച്ചതായി പ്രഖ്യാപിക്കണമെന്നും തങ്ങള്‍ക്കുണ്ടായ നഷ്ടത്തിന് പരിഹാരം വേണമെന്നുമാണ് എക്‌സ്.എഐ ആവശ്യപ്പെട്ടിരിക്കുന്നത്. നേരത്തെയും ഗ്രോക്ക് എഐ വഴി വ്യാജ ചിത്രങ്ങള്‍ നിര്‍മ്മിക്കുന്ന ‘ഡിജിറ്റല്‍ അണ്‍ഡ്രെസ്സിങ്’ രീതി വലിയ വിമര്‍ശനങ്ങള്‍ക്ക് വഴിവെച്ചിരുന്നു. കഴിഞ്ഞ വര്‍ഷം സിസ്റ്റം അപ്ഡേറ്റിലെ പിഴവ് കാരണം ഗ്രോക്ക് എഐ അക്രമാസക്തവും യഹൂദ വിരുദ്ധവുമായ ഉള്ളടക്കങ്ങള്‍ പ്രചരിപ്പിച്ചതിനും കമ്പനി പരസ്യമായി മാപ്പ് ചോദിച്ചിരുന്നു.

Elon Musk’s xAI sues user over allegedly creating child sexual abuse materials with Grok