ഗ്രോക്ക് എഐ കുട്ടികളുടെ ലൈംഗിക ചിത്രങ്ങള്‍ നിര്‍മിക്കുന്നു; ഇലോണ്‍ മസ്‌കിനോട് വിശദീകരണം തേടി

Grok AI makes sexualized images സോഷ്യല്‍ മീഡിയ പ്ലാറ്റഫോമായ എക്‌സിന്റെ ഉടമസ്ഥതയിലുള്ള ഗ്രോക്ക് കുട്ടികളുടെ ലൈംഗിക ചുവയുള്ള ചിത്രങ്ങള്‍ നിര്‍മ്മിക്കുന്നതിനെക്കുറിച്ച് ഓഫ്കോം വിശദീകരണം തേടി. ഇലോണ്‍ മസ്‌ക്കിന്റെ കമ്പനിയായ എക്‌സ് എ.ഐയോടാണ് ഓഫ്‌കോം ഇക്കാര്യത്തില്‍ അടിയന്തര വിശദീകരണം തേടിയിരിക്കുന്നത്.

ന്യൂസ്ടാഗ് വാര്‍ത്തകള്‍ വാട്‌സാപ്പില്‍ കിട്ടും >>

അവരുടെ എ.ഐ ടൂളായ ഗ്രോക്ക് ഉപയോഗിച്ച് കുട്ടികളുടെ ലൈംഗിക ചിത്രങ്ങളും സ്ത്രീകളുടെ നഗ്ന ചിത്രങ്ങളും നിര്‍മ്മിച്ചു എന്ന ആരോപണത്തിന്റെ അടിസ്ഥാനത്തിലാണ് നടപടി.

സോഷ്യല്‍ മീഡിയ പ്ലാറ്റ്ഫോമായ എക്സില്‍, സ്ത്രീകളെ യഥാര്‍ത്ഥ ചിത്രങ്ങള്‍ മാറ്റി ബിക്കിനിയില്‍ കാണിക്കുന്നതിനായി ചാറ്റ്‌ബോട്ടിനോട് ആവശ്യപ്പെടുന്ന നിരവധി ഉദാഹരണങ്ങള്‍ ബി.ബി.സി കണ്ടെത്തിയിരുന്നു. അതുപോലെ തന്നെ അവരെ ലൈംഗിക സാഹചര്യങ്ങളില്‍ ഉള്‍പ്പെടുത്തുകയും ചെയ്തിരുന്നു. എന്നാല്‍ ഈ സംഭവവുമായി ബന്ധപ്പെട്ട് എക്‌സ് ഇനിയും പ്രതികരിക്കാന്‍ തയ്യാറായിട്ടില്ല. കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്ന വസ്തുക്കള്‍ ഉള്‍പ്പെടെയുള്ള നിയമവിരുദ്ധ ഉള്ളടക്കം സൃഷ്ടിക്കാന്‍ ഗ്രോക്ക് ഉപയോഗിക്കരുതെന്ന് ഞായറാഴ്ച ഉപയോക്താക്കള്‍ക്ക് മുന്നറിയിപ്പ് നല്‍കി.

ALSO READ: ഉമര്‍ ഖാലിദിന്റെ ജാമ്യ നിഷേധം; റോഡ് ഉപരോധവും ഭീകര പ്രവര്‍ത്തനത്തിന്റെ പരിധിയില്‍ ഉള്‍പ്പെടുത്തി സുപ്രിം കോടതി

നിയമവിരുദ്ധ ഉള്ളടക്കം സൃഷ്ടിക്കാന്‍ എ.ഐ യോട് ആവശ്യപ്പെടുന്ന ആര്‍ക്കും അത് സ്വയം അപ്ലോഡ് ചെയ്താലുള്ള അതേ പ്രത്യാഘാതങ്ങള്‍ നേരിടേണ്ടിവരുമെന്ന്’ എലോണ്‍ മസ്‌ക് പോസ്റ്റ് ചെയ്തിട്ടുണ്ട്. എക്‌സ് ഐ.ഐയുടെ സ്വീകാര്യമായ ഉപയോഗ നയം അനുസരിച്ച് അശ്ലീലമായ രീതിയില്‍ വ്യക്തികളുടെ സാദൃശ്യങ്ങള്‍ ചിത്രീകരിക്കുന്നത് നിരോധിച്ചിട്ടുള്ളതാണ്. എന്നാല്‍ ചിലര്‍ അവരുടെ സമ്മതമില്ലാതെ ആളുകളെ ഡിജിറ്റല്‍ രീതിയില്‍ വസ്ത്രം അഴിക്കാന്‍ ഗ്രോക്ക് സംവിധാനം ഉപയോഗിക്കുകയാണ്.

എക്‌സില്‍ ഇത്തരത്തില്‍ ഗ്രോക്ക് ഉപഭോക്താക്കള്‍ ഡിജിറ്റല്‍ രീതിയില്‍ വസ്ത്രം അഴിച്ച നിരവധി ചിത്രങ്ങളില്‍ വെയില്‍സ് രാജകുമാരിയായ കാതറിന്റെ ചിത്രങ്ങളും ഉള്‍പ്പെടുന്നു.

യൂറോപ്യന്‍ യൂണിയന്റെ എന്‍ഫോഴ്സ്മെന്റ് വിഭാഗമായ യൂറോപ്യന്‍ കമ്മീഷന്‍ ‘ഈ വിഷയം ഗൗരവമായി പരിശോധിക്കുന്നുണ്ടെന്നും’ ഫ്രാന്‍സ്, മലേഷ്യ, ഇന്ത്യ എന്നിവിടങ്ങളിലെ അധികാരികള്‍ സ്ഥിതിഗതികള്‍ വിലയിരുത്തുന്നുണ്ടെന്നും അറിയിച്ചിട്ടുണ്ട്. ഇക്കാര്യത്തില്‍ പൊതുജനങ്ങളില്‍ നിന്ന് റിപ്പോര്‍ട്ടുകള്‍ ലഭിച്ചതായി യു.കെയുടെ ഇന്റര്‍നെറ്റ് വാച്ച് ഫൗണ്ടേഷന്‍ ബി.ബി.സിയോട് പറഞ്ഞു. എന്നാല്‍ കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്ന ചിത്രങ്ങളായി കണക്കാക്കാന്‍ യു.കെയുടെ നിയമപരമായ പരിധി മറികടക്കുന്ന ചിത്രങ്ങള്‍ ഇതുവരെ കണ്ടിട്ടില്ലെന്ന് അവര്‍ പറഞ്ഞു. ഗ്രോക്ക് ഒരു സൌജന്യ വെര്‍ച്വല്‍ സഹായിയാണ്.

ഉപയോക്താക്കള്‍ ബിക്കിനിയില്‍ തന്റെ ചിത്രങ്ങള്‍ സൃഷ്ടിക്കാന്‍ എ.ഐ ഉപയോഗിച്ചതായി പത്രപ്രവര്‍ത്തകയായ സാമന്ത സ്മിത്ത് കഴിഞ്ഞ ദിവസം മാധ്യമങ്ങളോട് വെളിപ്പെടുത്തിയിരുന്നു. ഓണ്‍ലൈന്‍ സുരക്ഷാ നിയമപ്രകാരം ഒരു വ്യക്തിയുടെ സമ്മതമില്ലാതെ അവരുടെ അടുപ്പമുള്ളതോ ലൈംഗികത പ്രകടമാക്കുന്നതോ ആയ ചിത്രങ്ങള്‍ എ.ഐ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ‘ഡീപ്‌ഫേക്കുകള്‍’ ഉള്‍പ്പെടെ – സൃഷ്ടിക്കുന്നതോ പങ്കിടുന്നതോ നിയമവിരുദ്ധമാണെന്ന് ഓഫ്കോം പറയുന്നു.