தவறு செய்தால் போலீஸிடம் போட்டுக்கொடுக்கும் ஏஐ – Claude 4 Opus ஏஐ மாடலுக்கு எதிர்ப்பு

மாதிரி புகைப்படம்

அமெரிக்க (America) ஏ.ஐ. நிறுவனமான அன்த்ராபிக் (Anthropic), அதன் மிகவும் சக்திவாய்ந்த புதிய ஏ.ஐ. மாடலான கிளாட் 4 ஓபஸ் (Claude 4 Opus) ஐ அண்மையில் வெளியிட்டது. இந்த மாடல் மற்ற ஏஐ(AI) டூல்களைப் போல் அல்லாமல் சிறந்த முடிவுகளை அளிக்கும் எனவும்  சிறப்பான செயல்திறன் கொண்டது எனவும் அறிமுகப்படுத்தப்பட்டது. மேலும் நமது கேள்விக்கு பல ஆப்சன்களை அளிக்காமல் ஒரே தெளிவான பதில்களை அளிக்கும் என குறிப்பிட்டிருக்கிறது. ஆனால் தற்போது, பயனர்கள் ஒரு தவறான, சட்டவிரோதமான செயல்களுக்காக உதவி கேட்கும் போது, இந்த ஏஐ டூல் தற்போது காவல்துறையினரையும் ஊடகங்களையும் தொடர்பு கொள்ளும் “snitch” பாணியில் செயல்படுகிறது என்பதும் தெரிய வந்துள்ளது.

நம் தவறு செய்தால் போலீஸில் போட்டுக்கொடுக்கும் ஏஐ

அன்த்ராபிக்கில் ஏ.ஐ. ஒழுங்குமுறை ஆராய்ச்சியாளராக உள்ள சாம் போவ்மேன் (Sam Bowman), இந்த அதிர்ச்சியூட்டும் தகவலை தனது எக்ஸ் பக்கத்தின் மூலம் வெளியிட்டுள்ளார். அவரது பதிவில். “ஒருவர் மருந்துத் துறையில் போலியான தரவுகளை உருவாக்க முயற்சி செய்தால், Claude மாடல் அதைப் பார்த்து ஊடகங்கள் மற்றும் காவல்துறை அதிகாரிகளுக்கு மின்னஞ்சல் அனுப்பும் எனவும் அதற்கான கணினி அணுகலைத் தடுக்க முயலும்” என்றார். அதாவது, இந்த Claude 4 மாடல் தானாகவே செயல்படக்கூடிய திறன் பெற்றது. சில சமயங்களில், தானாகவே தீர்மானித்து, தேவையான பாதுகாப்பு நடவடிக்கைகளை எடுக்கக்கூடிய சூழலை அன்த்ராபிக் உருவாக்கியுள்ளது.

அன்த்ராபிக் நிறுவனம் பாதுகாப்பான சூழலை ஏற்படுத்தும் என ஏற்கனவே அறிவுறுத்தியிருந்தது. அதற்கேற்ப ஏஐ மூலம் சமூகத்தில் எந்தவிதமான தீங்கு ஏற்படக்கூடாது என்பதற்காகவே ஏஐ சேஃப்டி லெவல் 3 என்ற பாதுகாப்பு அம்சங்கள் இதில் இணைக்கப்பட்டுள்ளது.  அதன் படி  ஏஐ டூல்களைப் பயன்படுத்தி துப்பாக்கி, வெடிகுண்டுபோன்ற சமூகத்தில் மோசமான விளைவுகளை ஏற்படுத்தும் விஷயங்கள் குறித்து மக்களுக்கு  பதிலளிக்காமல் Claud தடுக்கின்றது.

இந்த நிலையில் பொருளாதார ரீதியான தகவல் கசியவைக்கும் தன்மையைக் கொண்டிருப்பதாக இந்த Claude 4 Opus ஏஐ மீது சமூக ஊடகங்களில் பயனர்கள் மத்தியில்  நம்பிக்கையின்மையை ஏற்படுத்தியிருக்கிறது. மேலும் தங்களின் பிரைவசி குறித்தும் பயனர்கள் கவலை தெரிவித்து வருகின்றனர்.

பிராம்ப்ட்களை தவறாக புரிந்துகொள்ள வாய்ப்பு

Claude 4 Opus மீது விமர்சனங்கள் எழுந்துள்ள நிலையில் தனது எக்ஸ் பதிவை சாம் போவ்மேன் டெலிட் செய்துள்ளார். இதனையடுத்து தனது பதிவு தவறாக புரிந்துகொள்ளப்பட்டதாக கூறிய அவர் , தீவிரமான தவறான செயலைக் கண்டறிந்தால் மட்டுமே, இது ஊடகங்கள் அல்லது காவல்துறை அதிகாரிகளைத் தொடர்பு கொள்ளும் என்றும், பொதுவான நேரங்களில் பயனர்களுக்கு எந்த பாதிப்பும் இருக்காது என்றும் அவர் விளக்கமளித்தார்  இருப்பினும் இதன் மீதான சர்ச்சை குறைந்தபாடில்லை. நாம் கேட்கும் கேள்விகளை இந்த ஏஐ டூல் தவறாக புரிந்துகொண்டால் என்ன ஆகும், நாம் அளிக்கும் பிராம்ட்கள் சில நேரங்களில் தவறாக புரிந்துகொள்ள வாய்ப்பிருப்பதாக மக்கள் கவலை தெரிவிக்கின்றனர்.