ലോകത്തെ കീഴടക്കാൻ ഇനി ടാങ്കുകളോ യുദ്ധക്കപ്പലുകളോ ആണവായുധങ്ങളോ വേണ്ട. ചിലപ്പോൾ ഒരു വരി കോഡ് മതി. ഒരു തെറ്റായ അപ്ഡേറ്റ് മതി. ഒരു തകരാറിലായ ക്ലൗഡ് സേവനം മതി. മണിക്കൂറുകൾക്കുള്ളിൽ ഭൂഖണ്ഡങ്ങൾ നിശ്ചലമാകാൻ അത്രമാത്രം മതി. അതാണ് നാം കണ്ടത്. വിമാനത്താവളങ്ങളിൽ യാത്രക്കാർ കുടുങ്ങി. ബാങ്കുകൾ തടസ്സപ്പെട്ടു. ആശുപത്രികളുടെ പ്രവർത്തനം മന്ദഗതിയിലായി. മാധ്യമ സ്ഥാപനങ്ങൾ, കോർപ്പറേറ്റ് ഓഫീസുകൾ, സർക്കാർ സംവിധാനങ്ങൾ, ഓൺലൈൻ സേവനങ്ങൾ-ലോകത്തിന്റെ നാഡീവ്യൂഹം ഒരേസമയം വിറച്ചു. ആ മണിക്കൂറുകളിൽ ഏറ്റവും വ്യക്തമായത് ഒരു സാങ്കേതിക തകരാറല്ല; മനുഷ്യസഭ്യതയുടെ യഥാർത്ഥ ദൗർബല്യമായിരുന്നു.
ഒരുകാലത്ത് മനുഷ്യൻ പ്രകൃതിയെ ഭയന്നിരുന്നു. പ്രളയം, ഭൂകമ്പം, വരൾച്ച, മഹാമാരി അവയായിരുന്നു നാഗരികതയുടെ ഏറ്റവും വലിയ ശത്രുക്കൾ. ഇന്ന് സ്ഥിതി മാറിയിരിക്കുന്നു. മനുഷ്യൻ പ്രകൃതിയെ ഭാഗികമായി നിയന്ത്രിച്ചു. പക്ഷേ, അതിനുപകരം അവൻ മറ്റൊരു ശക്തിയുടെ തടവുകാരനായി. അവൻ തന്നെ എഴുതിയ കോഡുകളുടെ തടവുകാരൻ. അവൻ തന്നെ നിർമ്മിച്ച ഡിജിറ്റൽ ശൃംഖലയുടെ തടവുകാരൻ. അവൻ തന്നെ സൃഷ്ടിച്ച കൃത്രിമബുദ്ധിയുടെ സാധ്യതകളുടെ തടവുകാരൻ.
ഇരുപത്തിയൊന്നാം നൂറ്റാണ്ടിലെ മനുഷ്യൻ ഒരു അദൃശ്യ ലോകത്തിലാണ് ജീവിക്കുന്നത്. അവന്റെ ശമ്പളം അക്കങ്ങളാണ്. ബാങ്ക് അക്കൗണ്ട് അക്കങ്ങളാണ്. ഓഹരികൾ അക്കങ്ങളാണ്. ആശുപത്രിയിലെ ആരോഗ്യരേഖകൾ അക്കങ്ങളാണ്. ഭൂമിയുടെ ഉടമസ്ഥാവകാശം ഡാറ്റയാണ്. വിദ്യാഭ്യാസ സർട്ടിഫിക്കറ്റുകൾ ഡിജിറ്റൽ ഫയലുകളാണ്. പാസ്പോർട്ട് പോലും ചിപ്പിലൊതുങ്ങുന്ന വിവരങ്ങളായി മാറുകയാണ്. മനുഷ്യന്റെ ജീവിതം ഇനി അവന്റെ വീട്ടിലോ ഓഫീസിലോ ബാങ്കിലോ അല്ല സൂക്ഷിക്കപ്പെടുന്നത്; എവിടെയോ ഒരു ഡാറ്റാ സെന്ററിലാണ്. അവന്റെ സമ്പാദ്യം ഇരുമ്പ് ലോക്കറിലല്ല; ലോകത്തിന്റെ മറുഭാഗത്തുള്ള ഒരു സെർവറിലാണ്. അവന്റെ ജീവിതം നിയന്ത്രിക്കുന്നത് അവന് ഒരിക്കലും കാണാൻ കഴിയാത്ത ഒരു ആൽഗോരിതമാണ്.
ഇതിനെ പുരോഗതി എന്നാണ് നാം വിളിച്ചത്. പക്ഷേ, ഓരോ പുരോഗതിയും പുതിയൊരു അടിമത്തം കൂടി സൃഷ്ടിക്കാറുണ്ട്. വ്യവസായ വിപ്ലവം മനുഷ്യനെ യന്ത്രങ്ങളെ ആശ്രയിക്കുന്നവനാക്കി. ഡിജിറ്റൽ വിപ്ലവം മനുഷ്യനെ കോഡുകളെ ആശ്രയിക്കുന്നവനാക്കി. ഇന്ന് വൈദ്യുതി പോയാൽ ജനറേറ്റർ ഓണാക്കാം. എന്നാൽ, ക്ലൗഡ് നിലച്ചാൽ? സോഫ്റ്റ്വെയർ തകരാറിലായാൽ? ഡിജിറ്റൽ ഐഡന്റിറ്റി നഷ്ടപ്പെട്ടാൽ? അതിനുള്ള മറുപടി മനുഷ്യസഭ്യതയ്ക്ക് ഇതുവരെ കണ്ടെത്താനായിട്ടില്ല.
അതിലും ഭയപ്പെടുത്തുന്ന ഒരു യാഥാർത്ഥ്യമുണ്ട്. ലോകത്തിലെ ഏറ്റവും ശക്തമായ അടിസ്ഥാനസൗകര്യങ്ങൾ ഇനി സർക്കാരുകളുടെ നിയന്ത്രണത്തിൽ മാത്രമല്ല. അവയുടെ വലിയൊരു ഭാഗം സ്വകാര്യ കമ്പനികളുടെ കൈകളിലാണ്. കോടിക്കണക്കിന് ആളുകളുടെ ദൈനംദിന ജീവിതം, ആയിരക്കണക്കിന് ആശുപത്രികളുടെ പ്രവർത്തനം, ലക്ഷക്കണക്കിന് സ്ഥാപനങ്ങളുടെ ഡാറ്റ, അനേകം രാജ്യങ്ങളുടെ സാമ്പത്തിക ഇടപാടുകൾ ഇവയെല്ലാം ഏതാനും ആഗോള സാങ്കേതിക കമ്പനികളുടെ ക്ലൗഡ് പ്ലാറ്റ്ഫോമുകളെയും ഓപ്പറേറ്റിങ് സിസ്റ്റങ്ങളെയും സുരക്ഷാ സോഫ്റ്റ്വെയറുകളെയും ആശ്രയിച്ചാണ് പ്രവർത്തിക്കുന്നത്. മനുഷ്യചരിത്രത്തിൽ ഇത്രയും വലിയ അധികാരം ഇത്രയും കുറച്ച് സ്ഥാപനങ്ങളുടെ കൈകളിൽ ഒരിക്കലും കേന്ദ്രീകരിക്കപ്പെട്ടിട്ടില്ല.
ഇവിടെ പ്രശ്നം സ്വകാര്യ കമ്പനികൾ ഉണ്ടെന്നതല്ല. പ്രശ്നം ലോകത്തിന്റെ പ്രവർത്തനം ഏതാനും സോഫ്റ്റ് വെയർ ആർക്കിടെക്ചറുകളെ മാത്രം ആശ്രയിക്കുന്നുവെന്നതാണ്. ഒരു കമ്പനിയുടെ പിഴവ് ഒരു രാജ്യത്തിന്റെ പ്രശ്നമാകുന്നില്ല; ലോകത്തിന്റെ പ്രശ്നമാകുന്നു. ഒരു തെറ്റായ അപ്ഡേറ്റ് വിമാനങ്ങളെ നിലത്തിറക്കുന്നു. ഒരു സുരക്ഷാ വീഴ്ച ആശുപത്രികളെ തളർത്തുന്നു. ഒരു ക്ലൗഡ് സേവനത്തിലെ തകരാർ കോടിക്കണക്കിന് ആളുകളുടെ ജോലി തടസ്സപ്പെടുത്തുന്നു. ഇതാണ് ഡിജിറ്റൽ കേന്ദ്രീകരണത്തിന്റെ യഥാർത്ഥ വില.
ഇനി അതിലും അപകടകരമായ ഒരു ചോദ്യം ചോദിക്കാം. ഇത് ഒരു അബദ്ധമായിരുന്നില്ലെങ്കിൽ? ഇത് ആസൂത്രിതമായ ആക്രമണമായിരുന്നെങ്കിൽ? ഒരു ഭീകരസംഘടനയോ ഒരു ശത്രുരാജ്യമോ ഒരു സൈബർ ക്രിമിനൽ സംഘമോ മനപ്പൂർവ്വം ഇത്തരം സാഹചര്യം സൃഷ്ടിച്ചാൽ എന്ത് സംഭവിക്കും? അവർക്ക് ഇനി പാലങ്ങൾ തകർക്കേണ്ടതില്ല. വിമാനത്താവളങ്ങൾ ബോംബിട്ട് നശിപ്പിക്കേണ്ടതില്ല. ബാങ്കുകൾ കൊള്ളയടിക്കേണ്ടതില്ല. ഒരു കോഡ് മതി. ഒരു മാൽവെയർ മതി. ഒരു AI അധിഷ്ഠിത സൈബർ ആക്രമണം മതി. ലോകം ഇപ്പോൾ പ്രവേശിച്ചിരിക്കുന്നത് തോക്കുകളുടെ യുഗത്തിൽ നിന്നല്ല, ആൽഗോരിതങ്ങളുടെ യുഗത്തിലേക്കാണ്. മുമ്പ് ഒരു സൈബർ ആക്രമണം നടത്താൻ വർഷങ്ങളുടെ പരിശീലനവും വലിയ സംഘങ്ങളും ആവശ്യമായിരുന്നു. ഇന്ന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ആ കഴിവുകളുടെ വലിയൊരു ഭാഗം സാധാരണക്കാർക്ക് പോലും ലഭ്യമാക്കുകയാണ്. സുരക്ഷാ വീഴ്ചകൾ കണ്ടെത്താനും സ്വയം രൂപംമാറുന്ന മാൽവെയറുകൾ എഴുതാനും ലക്ഷക്കണക്കിന് വ്യാജ സന്ദേശങ്ങൾ നിമിഷങ്ങൾക്കുള്ളിൽ സൃഷ്ടിക്കാനും AIക്ക് കഴിയും. സാങ്കേതിക വിദ്യ ജനാധിപത്യവൽക്കരിക്കപ്പെട്ടതുപോലെ ആക്രമണശേഷിയും ജനാധിപത്യവൽക്കരിക്കപ്പെടുകയാണ്. ഇതാണ് ഏറ്റവും വലിയ ആശങ്ക. കാരണം, ചരിത്രം പറയുന്നത് എല്ലാ സാങ്കേതിക വിദ്യയും ഒടുവിൽ ആരെങ്കിലും ആയുധമാക്കും എന്നതാണ്. അച്ചടി യന്ത്രം വിജ്ഞാനവും പ്രചരിപ്പിച്ചു, വിദ്വേഷവും പ്രചരിപ്പിച്ചു. റേഡിയോ സംഗീതവും നൽകി, യുദ്ധപ്രചാരണവും നടത്തി. ഇന്റർനെറ്റ് അറിവും നൽകി, തീവ്രവാദ ശൃംഖലകളും സൃഷ്ടിച്ചു. Aiയും അതിൽ നിന്ന് വ്യത്യസ്തമാകുമെന്ന് കരുതാൻ കാര്യമില്ല.
ചിലർ പറയും, “യന്ത്രങ്ങൾ മനുഷ്യരെ കീഴടക്കും” എന്ന്. അതല്ല യഥാർത്ഥ ഭീഷണി. യന്ത്രങ്ങൾക്ക് ആഗ്രഹങ്ങളില്ല. കമ്പ്യൂട്ടറുകൾക്ക് രാഷ്ട്രീയമില്ല. ആൽഗോരിതങ്ങൾക്ക് പ്രതികാരമില്ല. എന്നാൽ, മനുഷ്യന് അതെല്ലാമുണ്ട്. യഥാർത്ഥ അപകടം AIയല്ല; AI ഉപയോഗിക്കുന്ന മനുഷ്യനാണ്. യഥാർത്ഥ ഭീഷണി കോഡല്ല; കോഡ് എഴുതുന്ന മനസ്സാണ്. അതുകൊണ്ടുതന്നെ ഭാവിയിലെ ഭീകരവാദിയുടെ മുഖം ഒരു കാട്ടിൽ ഒളിച്ചിരിക്കുന്ന ഗറില്ല പോരാളിയുടേതായിരിക്കണമെന്നില്ല. എയർ കണ്ടീഷൻ ചെയ്ത ഒരു മുറിയിൽ ഇരുന്ന് ഒരു ലാപ്ടോപ്പിൽ കോഡ് എഴുതുന്ന ഒരു ടെക്കി നെർഡിന്റേതായിരിക്കാം.
ഒരു നിമിഷം ചിന്തിച്ചുനോക്കൂ. വാൾസ്ട്രീറ്റിലെ ഇടപാടുകൾ ഏതാനും മണിക്കൂറുകൾക്കായി അപ്രത്യക്ഷമായാൽ? പെൻഷൻ ഫണ്ടുകളുടെ ഡാറ്റാബേസ് നശിച്ചാൽ? ഇൻഷുറൻസ് കമ്പനികളുടെ രേഖകൾ ഇല്ലാതായാൽ? ആശുപത്രികളുടെ മെഡിക്കൽ റെക്കോർഡുകൾ മായിച്ചുകളഞ്ഞാൽ? വൈദ്യുതി ഗ്രിഡുകൾ നിയന്ത്രിക്കുന്ന സോഫ്റ്റ് വെയർ പ്രവർത്തനരഹിതമായാൽ? നഷ്ടമാകുന്നത് കണക്കുകൾ മാത്രമല്ല. ഒരു ജീവിതകാലം മുഴുവൻ അധ്വാനിച്ച് സമ്പാദിച്ച പണമാണ്. ഒരു വിരമിച്ച അധ്യാപകന്റെ പെൻഷനാണ്. ഒരു തൊഴിലാളിയുടെ നാളത്തെ കൂലിയാണ്. ഒരു രോഗിയുടെ ജീവൻ രക്ഷിക്കാനുള്ള ചികിത്സാസമയമാണ്.
നാം ആണവായുധങ്ങളെക്കുറിച്ച് പതിറ്റാണ്ടുകളായി ചർച്ച ചെയ്യുന്നു. എന്നാൽ, ഡിജിറ്റൽ ആയുധങ്ങളെക്കുറിച്ച് അത്ര ഗൗരവമായി സംസാരിക്കുന്നില്ല. ഒരു ആണവ ബോംബ് ഒരു നഗരം നശിപ്പിക്കും. ഒരു വിജയകരമായ സൈബർ ആക്രമണം ഒരേസമയം നൂറുകണക്കിന് നഗരങ്ങളുടെ സാമ്പത്തിക വ്യവസ്ഥയെ തകർക്കും. ആണവാക്രമണത്തിന്റെ പുക കാണാം. സൈബർ ആക്രമണത്തിന്റെ പുക കാണാനാവില്ല. പക്ഷേ, അതിന്റെ ആഘാതം അത്രത്തോളം യാഥാർത്ഥ്യമാണ്.
ഇവിടെ മറ്റൊരു വിരോധാഭാസവുമുണ്ട്. മനുഷ്യചരിത്രത്തിൽ ആദ്യമായി നാം ജനാധിപത്യ രാജ്യങ്ങളായി ജീവിക്കുന്നു. പക്ഷേ, നമ്മുടെ ദൈനംദിന ജീവിതത്തിന്റെ വലിയൊരു ഭാഗം നിയന്ത്രിക്കുന്നത് ജനാധിപത്യ സ്ഥാപനങ്ങളല്ല; സ്വകാര്യ ആൽഗോരിതങ്ങളാണ്. എന്താണ് നമ്മൾ കാണേണ്ട വാർത്ത, ഏത് വഴിയാണ് യാത്ര ചെയ്യേണ്ടത്, എന്താണ് വാങ്ങേണ്ടത്, ആരുമായാണ് സംസാരിക്കേണ്ടത്, എന്താണ് ശുപാർശ ചെയ്യപ്പെടേണ്ടത് ഇതെല്ലാം നിർണയിക്കുന്നത് കോഡുകളാണ്. നാം സ്വതന്ത്രരാണെന്ന് കരുതുന്നു. എന്നാൽ, അദൃശ്യമായ ആൽഗോരിതങ്ങളുടെ പരിധിക്കുള്ളിലാണ് നമ്മുടെ സ്വാതന്ത്ര്യം പ്രവർത്തിക്കുന്നത്. അതിനാൽ ഇന്നത്തെ ഏറ്റവും വലിയ ചോദ്യം AI മനുഷ്യനെ മാറ്റിസ്ഥാപിക്കുമോ എന്നതല്ല. മനുഷ്യൻ സ്വന്തം നാഗരികതയെ ഏതാനും ഡിജിറ്റൽ സംവിധാനങ്ങളിൽ അമിതമായി കേന്ദ്രീകരിച്ച് സ്വയം ദുർബലമാക്കിയോ എന്നതാണ്.
സാങ്കേതികവിദ്യയെ ഭയക്കേണ്ട കാര്യമില്ല. പക്ഷേ, സാങ്കേതികവിദ്യയെ ദൈവവൽക്കരിക്കുന്നത് അപകടകരമാണ്. ഓരോ സംവിധാനവും പരാജയപ്പെടാം. ഓരോ കോഡിലും പിഴവുണ്ടാകാം. ഓരോ സുരക്ഷാ മതിലും ഒരുദിവസം തകരാം. അതിനാൽ ഡിജിറ്റൽ ലോകത്തിന് ജനാധിപത്യപരമായ നിയന്ത്രണവും തുറന്ന പരിശോധനയും ശക്തമായ ബദൽ സംവിധാനങ്ങളും അനിവാര്യമാണ്. ഇല്ലെങ്കിൽ മനുഷ്യസഭ്യതയുടെ ഭാവി ഏതാനും സ്വകാര്യ കമ്പനികളുടെ സെർവർ റൂമുകളിലെ ലൈറ്റുകൾ കെട്ടുപോകുന്ന നിമിഷങ്ങളെ ആശ്രയിച്ചാകും. നാം പലപ്പോഴും പറയാറുണ്ട് ചരിത്രം യുദ്ധങ്ങൾ മാറ്റിമറിച്ചു എന്ന്. എന്നാൽ, ഇരുപത്തിയൊന്നാം നൂറ്റാണ്ടിന്റെ ചരിത്രം മാറ്റിമറിക്കുന്നത് ഒരുപക്ഷേ യുദ്ധങ്ങളാവില്ല. ഒരു കോഡായിരിക്കും. ഒരു ആൽഗോരിതമായിരിക്കും. ഒരു കൃത്രിമബുദ്ധിയായിരിക്കും.
കാരണം, ഇനി ലോകത്തെ നിർത്താൻ ബോംബ് ആവശ്യമില്ല.
ഒരു ബഗ് മതി.
