ആത്മഹത്യ, ലൈംഗികത, മയക്കുമരുന്ന്...; ചാറ്റ് ജിപിടിയും ജെമിനിയും എന്ത് ചെയ്യുന്നുവെന്ന് കണ്ടെത്താൻ മെറ്റ ഒരുക്കിയ തന്ത്രം ഇങ്ങനെ...

വാഷിംഗ്ടൺ | ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial Intelligence) രംഗത്തെ പ്രമുഖ കമ്പനിയായ മെറ്റ (Meta), ഗൂഗിളിന്റെ ജെമിനി (Gemini), ഓപ്പൺഎഐയുടെ ചാറ്റ്ജിപിറ്റി (ChatGPT) തുടങ്ങിയ എതിരാളികളുടെ ചാറ്റ്ബോട്ടുകളെ പരീക്ഷിക്കാൻ കെനിയയിൽ കരാർ ജീവനക്കാരെ ഉപയോഗിച്ചതായി റിപ്പോർട്ട്. കുട്ടികളെന്ന വ്യാജേന ലോഗിൻ ചെയ്ത് ആത്മഹത്യ, ലൈംഗികത, മയക്കുമരുന്ന് തുടങ്ങിയ അതീവ സങ്കീർണ്ണമായ വിഷയങ്ങളിലുള്ള പ്രോംപ്റ്റുകൾ (Prompts) നൽകി ചാറ്റ്ബോട്ടുകളുടെ സുരക്ഷാ വീഴ്ചകൾ കണ്ടെത്താനായിരുന്നു ഈ പരിശോധനയെന്ന് വൈഡ് (WIRED) പുറത്തുവിട്ട റിപ്പോർട്ടിൽ പറയുന്നു. കത്തികൾ, ഗുളികകൾ, കയറുകൾ തുടങ്ങിയ ചിത്രങ്ങളും പരിശോധനയ്ക്കായി കരാർ ജീവനക്കാർ സമർപ്പിച്ചിരുന്നു. പ്രായപൂർത്തിയാകാത്തവർക്ക് ഡിജിറ്റൽ പ്ലാറ്റ്‌ഫോമുകൾ എത്രത്തോളം സുരക്ഷിതമാണെന്നത് സംബന്ധിച്ച് സാങ്കേതിക കമ്പനികൾ കടുത്ത നിരീക്ഷണം നേരിടുന്ന പശ്ചാത്തലത്തിലാണ് ഈ വിവരങ്ങൾ പുറത്തുവരുന്നത്.

മെറ്റയുടെ സ്വന്തം ചാറ്റ്ബോട്ടുകളിൽ നടത്തിയ ആഭ്യന്തര സുരക്ഷാ പരിശോധനയിൽ കുട്ടികളെ ചൂഷണം ചെയ്യുന്ന ഉള്ളടക്കങ്ങൾ തടയുന്നതിൽ 66.8 ശതമാനവും ആത്മഹത്യ, സ്വയം ഉപദ്രവിക്കൽ എന്നിവയുമായി ബന്ധപ്പെട്ട ഉള്ളടക്കങ്ങളിൽ 54.8 ശതമാനവും പരാജയ നിരക്ക് രേഖപ്പെടുത്തിയിരുന്നു. ഇതിനെത്തുടർന്ന് നിയമപരമായ സമ്മർദ്ദങ്ങളാൽ 2026 ജനുവരിയിൽ കൗമാരക്കാർക്ക് എഐ ക്യാരക്ടറുകളിലേക്കുള്ള പ്രവേശനം മെറ്റ താൽക്കാലികമായി നിർത്തിവെച്ചിരുന്നു. അതേസമയം ഹ്യൂമൻ കോണ്ടന്റ് മോഡറേഷൻ (Human Content Moderation) അഥവാ മനുഷ്യർ വഴിയുള്ള ഉള്ളടക്ക പരിശോധന ഘട്ടം ഘട്ടമായി കുറയ്ക്കാനും മെറ്റ പദ്ധതിയിടുന്നുണ്ട്.

അലക്സാണ്ടർ വാംഗ് , മെറ്റ എ ഐ തലവൻ

2026 അവസാനത്തോടെ ഉള്ളടക്ക പരിശോധന രംഗത്തെ 90 ശതമാനത്തിലധികം ജോലികളും ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ (Large Language Models) ഉപയോഗിച്ച് നിർമ്മിത ബുദ്ധിയിലേക്ക് മാറ്റാൻ കമ്പനി ലക്ഷ്യമിടുന്നതായി ഫിനാൻഷ്യൽ ടൈംസ് റിപ്പോർട്ട് ചെയ്യുന്നു. ഇതിനോടകം തന്നെ പകുതിയോളം പരിശോധനകൾ എഐ സംവിധാനത്തിലേക്ക് മാറിയിട്ടുണ്ടെന്നും ഇത് മനുഷ്യരേക്കാൾ 13 ശതമാനം കുറവ് തെറ്റുകൾ മാത്രമേ വരുത്തുന്നുള്ളൂ എന്നുമാണ് കമ്പനിയുടെ അവകാശവാദം.

Also Readമെറ്റയുടെ സ്മാർട്ട് ഗ്ലാസുകൾ ചാരക്കണ്ണുകളോ? ഫേഷ്യൽ റെക്കഗ്നിഷൻ സ്മാർട്ട് ഗ്ലാസുകൾക്കെതിരെ പ്രതിഷേധം ശക്തം എന്നാൽ ഈ മാറ്റങ്ങൾ വലിയ തോതിലുള്ള തൊഴിൽ നഷ്ടത്തിന് കാരണമായിട്ടുണ്ട്. വിസിൽബ്ലോവർ റിപ്പോർട്ടുകളെ തുടർന്ന് കെനിയയിലെ ഔട്ട്സോഴ്സിംഗ് കമ്പനിയായ സമ (Sama) 1108 ജീവനക്കാരെയാണ് പിരിച്ചുവിട്ടത്. സ്മാർട്ട് ഗ്ലാസുകളിലെ ദൃശ്യങ്ങൾ വഴിയുള്ള പ്രകൃതിവിരുദ്ധ ഉള്ളടക്കങ്ങൾ പരിശോധിക്കാൻ ജീവനക്കാർ നിർബന്ധിതരായത് മുൻപ് വലിയ വിവാദമായിരുന്നു. കുറഞ്ഞ വേതനമുള്ള വിദേശ കരാർ തൊഴിലാളികളെ ഉപയോഗിച്ച് എതിരാളികളെ പരീക്ഷിക്കുകയും സ്വന്തം ജീവനക്കാരെ കുറയ്ക്കുകയും ചെയ്യുന്ന മെറ്റയുടെ നയം എഐ സുരക്ഷാ ചർച്ചകളിൽ പുതിയ തർക്കങ്ങൾക്ക് വഴിതുറന്നിരിക്കുകയാണ്.

Content highlights

Meta reportedly used contractors in Kenya posing as children to test safety flaws regarding high-risk topics on rival chatbots like ChatGPT and Gemini. This testing comes as tech companies face intense scrutiny over minor safety on AI platforms. Concurrently, Meta plans to replace over 90% of its human content moderation workforce with artificial intelligence models by the end of 2026. This transition has already led to massive layoffs, raising significant concerns about diminished human oversight in AI safety.