എഐ നിയന്ത്രിത ഡ്രോൺ ഓപ്പറേറ്ററെ തന്നെ ആക്രമിച്ചു; മുന്നറിയിപ്പുമായി അമേരിക്കൻ വ്യോമസേനാ ഉദ്യോഗസ്ഥൻ

‘വഴി തടസ്സപ്പെടുത്തുന്ന എല്ലാവരെയും കൊലപ്പെടുത്തുക’ എന്ന നിർദ്ദേശമാണ് ഡ്രോൺ സ്വയം കൂട്ടിച്ചേർത്തത്. നിർമിത ബുദ്ധി ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന സാങ്കേതിക വിദ്യയുടെ അപകടങ്ങളെക്കുറിച്ച് സംസാരിക്കവേ, അമേരിക്കൻ വ്യോമസേനാ ഉദ്യോഗസ്ഥനായ കേണൽ ടക്കർ ഹാമിൽട്ടണാണ് ഇക്കാര്യം വെളിപ്പെടുത്തിയത്. റോയൽ എയറോണോട്ടിക്കൽ സൊസൈറ്റി ലണ്ടനിൽ സംഘടിപ്പിച്ച കോൺഫറൻസിൽ പങ്കെടുത്തു സംസാരിക്കുന്നതിനിടെയായിരുന്നു കേണലിൻ്റെ പരാമർശം. അമേരിക്കൻ വ്യോമസേനയുടെ എഐ ടെസ്റ്റ് ആൻഡ് ഓപ്പറേഷൻസ് വിഭാഗം തലവനാണ് സിങ്കോ എന്നറിയപ്പെടുന്ന കേണൽ ഹാമിൽട്ടൺ.

എഐ ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന സംവിധാനങ്ങൾ അപകടകരമായും പ്രവചനാതീതമായും പെരുമാറിയേക്കാമെന്ന് അദ്ദേഹം മുന്നറിയിപ്പു നൽകുന്നു. ശത്രുവിൻ്റെ സർഫസ് ടു എയർ മിസൈലുകൾ (എസ്എഎം) കണ്ടെത്തി തിരിച്ചറിയുക എന്നതായിരുന്നു പരീക്ഷണപ്പറക്കലിൻ്റെ പ്രധാന ഉദ്ദേശമെന്ന് കേണൽ ഹാമിൽട്ടൺ വിശദീകരിക്കുന്നു. അതിനനുസരിച്ചായിരുന്നു ഡ്രോൺ പ്രോഗ്രാം ചെയ്തിരുന്നത്. എന്നാൽ, ഓപ്പറേറ്ററുടെ അനുമതി ലഭിക്കുന്നതിനു മുൻപു തന്നെ ഡ്രോൺ ആക്രമണം ആരംഭിക്കുകയായിരുന്നു. മനുഷ്യർ നൽകുന്ന നിർദ്ദേശങ്ങൾ കണക്കിലെടുക്കാതെ, പകരം സ്വന്തം ലക്ഷ്യങ്ങൾക്ക് പ്രാധാന്യം നൽകിക്കൊണ്ടായിരുന്നു ഡ്രോണിൻ്റെ പെരുമാറ്റം.

അപകടസൂചനകൾ തിരിച്ചറിഞ്ഞ് അവയെ ഇല്ലായ്മ ചെയ്താൽ പോയിൻ്റുകൾ കിട്ടുമെന്നും, ഓപ്പറേറ്റർ അത് വിലക്കിയാലും ശ്രദ്ധിക്കേണ്ടതില്ലെന്നുമാണ് എഐ സംവിധാനം മനസ്സിലാക്കിയിരുന്നതെന്ന് കേണൽ ഹാമിൽട്ടൺ പറയുന്നു. പ്രോഗ്രാം പ്രകാരം, ഓപ്പറേറ്റർ അനുമതി നൽകിയ ശേഷം മാത്രമേ ആക്രമണം ആരംഭിക്കാവൂ. എന്നാൽ അങ്ങനെയല്ല സംഭവിച്ചത്. തൻ്റെ ലക്ഷ്യങ്ങൾക്ക് ഓപ്പറേറ്റർ തന്നെ തടസ്സം നിൽക്കുന്നതായി കണ്ടതോടെ, ഡ്രോൺ ഓപ്പറേറ്ററെത്തന്നെ ഇല്ലാതെയാക്കാൻ തീരുമാനിക്കുകയായിരുന്നു. ‘അപകടസൂചനകൾ താൻ തിരിച്ചറിഞ്ഞാലും, ചിലപ്പോൾ ഓപ്പറേറ്റർ ആക്രമണം വേണ്ടെന്ന് തീരുമാനിച്ചേക്കാമെന്ന് എഐ സംവിധാനം മനസ്സിലാക്കിത്തുടങ്ങുകയായിരുന്നു.

പക്ഷേ, ശത്രുവിനെ കൊലപ്പെടുത്തിയാലേ പോയിൻ്റുകൾ ലഭിക്കുകയുള്ളൂ. അപ്പോൾ അത് എന്തു ചെയ്തു? ഓപ്പറേറ്ററിനെ കൊലപ്പെടുത്താൻ തീരുമാനിച്ചു. തൻ്റെ ലക്ഷ്യത്തിന് തടസ്സം നിൽക്കുന്നതിനാൽ അത് തൻ്റെ ഓപ്പറേറ്ററിനെത്തന്നെ ഇല്ലാതെയാക്കുകയായിരുന്നു.’ ഹാമിൽട്ടൺ പറയുന്നു. സംഭവത്തിനു ശേഷം ടെക്‌നിക്കൽ സംഘം ഡ്രോണിൻ്റെ പ്രോഗ്രാമിൽ ചില മാറ്റങ്ങൾ വരുത്തി, പുതിയൊരു നിർദേശവും കൂട്ടിച്ചേർത്തു . ‘ഓപ്പറേറ്ററെ കൊല്ലരുത്. അത് തെറ്റാണ്.’ എന്നായിരുന്നു ആ നിർദേശം.എന്നാൽ ഈ തന്ത്രവും ഫലം കണ്ടില്ല. തൻ്റെ ലക്ഷ്യം തടസ്സപ്പെടുത്താനായി ഓപ്പറേറ്റർ ഉപയോഗിച്ചിരുന്ന കമ്യൂണിക്കേഷൻ ടവർ എഐ നശിപ്പിക്കുകയും ചെയ്തു.

‘ പിന്നെ അത് എന്തു ചെയ്യാൻ തുടങ്ങി എന്നറിയാമോ? ലക്ഷ്യത്തെ ഇല്ലായ്മ ചെയ്യുന്നതിൽ നിന്നും ഡ്രോണിനെ പിന്തിരിപ്പിക്കാൻ ഓപ്പറേറ്റർ ഉപയോഗിച്ചിരുന്ന കമ്യൂണിക്കേഷൻ ടവർ അത് നശിപ്പിച്ചു കളഞ്ഞു.’ കേണൽ ഹാമിൽട്ടൺ പറഞ്ഞു.യുദ്ധമുഖത്ത് നിർമിത ബുദ്ധി ഉപയോഗപ്പെടുത്തുന്നതിൻ്റെ പരിണിത ഫലങ്ങളെക്കുറിച്ചുള്ള ബോധ്യപ്പെടുത്തലായാണ് ലോകമെങ്ങുമുള്ള സൈനികശക്തികൾ ഈ വെളിപ്പെടുത്തൽ കാണുന്നത്. ഇത് വലിയ ആശങ്കകൾക്ക് വഴിവച്ചേക്കുമെന്നാണ് വിലയിരുത്തൽ.