AI-யை தன்னைத்தானே மேம்படுத்திக் கொள்ளும் superintelligence நிலைக்கு கொண்டு செல்லும் போட்டி, போதுமான பாதுகாப்பு மற்றும் அரசின் கட்டுப்பாடுகள் இல்லாமல் நடந்தால், மனிதகுலத்துக்கு மிகப்பெரிய ஆபத்தாக மாறலாம் என்பதே அவரது எச்சரிக்கை.
AI தன்னைத்தானே மேம்படுத்தத் தொடங்குவது என்பதை பற்றி வல்லுநர்கள் கூறியது இதுதான். இப்போது AI-யை மேம்படுத்துவது பெரும்பாலும் மனிதர்கள்தான். ஆனால் AI தானாக code எழுதுவது, தன்னுடைய தவறுகளைக் கண்டுபிடிப்பது,புதிய AI மாடல்களை வடிவமைப்பது, பரிசோதனைகளை தானாக நடத்துவது
என்ற நிலையான மீள்சுழற்சிமுறைத் தன்னுயர்வு (Recursive Self-Improvement) பெற்றால் AI-யை மேம்படுத்தும் வேகம் மனிதர்களை விட அதிகமாகலாம் என்றும்
மேலும் காக்சன் குறிப்பிட்ட Anthropic-ம் தற்போது AI development-ல் AI-ஐ அதிகமாக பயன்படுத்துவது வேகத்தை அதிகரித்து வருவதாகவும், எதிர்காலத்தில் AI தனது successor-ஐ தானே உருவாக்கும் நிலை வரக்கூடும் என்றும் ஆனால் அது இன்னும் நிகழவில்லை என்றும் அந்நிறுவனம் தெளிவுபடுத்தியுள்ளதாக குறிப்புகள் கூறுகிறது.
மேலும் AI development AI version 1 → version 2 → version 3 என்று மனிதர்கள் கண்காணிக்க முடியாத வேகத்தில் முன்னேறினால் என்ன நடக்கிறது என்பதைப் புரிந்துகொள்ளும் நேரமே மனிதர்களுக்கு இல்லாமல் போகலாம் என்பது நிரூபணமாகும் காலத்தில் ஒருவேளை காக்சன் கூறியது நிகழும் வாய்ப்பு இருக்கலாம்.
காக்சன் கூறியது போல நமது கட்டுப்பாட்டில் தற்போது உள்ள ஏஐ நம்மை கட்டுப்படுத்தும் முன் அரசு மற்றும் ஏஐ ஆராய்ச்சியாளர்கள் மற்றும் நிறுவனங்கள் தகுந்த நடவடிக்கைகள் எடுக்க வேண்டும்.