Anthropic ఒక అత్యంత ప్రమాదకరమైన AIని తయారు చేసింది, దానిని విడుదల చేయడానికి వారు నిరాకరిస్తున్నారు. వారు కనుగొన్న విషయాలు మిమ్మల్ని భయపెడతాయి.

గతరాత్రి ప్రశాంతంగా నిద్రపోయారా? ఆ సంతోషాన్ని అనుభవించండి. ఎందుకంటే మీ కంప్యూటర్, మీ ఫోన్, మీ బ్యాంక్ అన్నీ కూడా ఏళ్ల తరబడి ప్రమాదంలో ఉన్నాయి. దశాబ్దాలుగా కూడా కావచ్చు. ఇది నిజంగా ఎంత భయంకరంగా ఉందో ఇప్పుడు మనకు ఖచ్చితంగా తెలిసింది.

టెక్ ప్రపంచం జీర్ణించుకోలేక తలమునకలయ్యే ఒక బాంబు లాంటి వార్తను Anthropic ఇప్పుడే వదిలింది. వారు Claude Mythos Preview అనే కొత్త AI మోడల్‌ను రూపొందించారు, ఇది హ్యాకింగ్‌లో ఎంత భయంకరమైన శక్తిని కలిగి ఉందంటే, వారు దీనిని సామాన్య ప్రజలకు అందుబాటులోకి తీసుకురావడానికి నిరాకరిస్తున్నారు. దానికి బదులుగా, వారు ఆందోళన చెంది Apple, Google, Microsoft, Amazon, NVIDIA మరియు మరో అర డజను టెక్ దిగ్గజాలను పిలిచి, మరొకరు ఇలాంటిది నిర్మించకముందే ఇంటర్నెట్‌ను నిశబ్దంగా బాగు చేయడానికి Project Glasswing అనే $100 మిలియన్ల అత్యవసర కూటమిని ఏర్పాటు చేశారు.

మరోసారి చదవండి. వంద మిలియన్ డాలర్లు. ఒక AI కేవలం ఒక రాత్రిలో కనుగొన్న లోపాలను సరిచేయడానికి.

సిలికాన్ వ్యాలీ నిద్ర లేకుండా చేస్తున్న Mythos చేసిన పనులు ఇవే:

ఇది ప్రతి ప్రధాన ఆపరేటింగ్ సిస్టమ్ మరియు ప్రతి ప్రధాన వెబ్ బ్రౌజర్‌లో వేలకొద్దీ అత్యంత తీవ్రమైన లోపాలను (vulnerabilities) కనుగొంది. Windows, macOS, Linux, Chrome, Safari, Firefox. అన్నీ కూడా. కొన్ని దశాబ్దాలుగా అలాగే ఉండి, వాటిని కనిపెట్టేంత తెలివైన దాని కోసం వేచి చూస్తున్న రంధ్రాలతో నిండి ఉన్నాయి.

ఈ గణాంకాలు నిజంగా ఆశ్చర్యకరంగా ఉన్నాయి. కేవలం యాభై డాలర్ల కంప్యూటింగ్ ఖర్చుతో, Mythos ఎంతో సురక్షితమైన ఆపరేటింగ్ సిస్టమ్‌గా పరిగణించబడే OpenBSDలో 27 ఏళ్ల నాటి బగ్‌ను కనుగొంది. సెక్యూరిటీ పరిశోధకులు దాదాపు మూడు దశాబ్దాలుగా ఆ కోడ్‌ను ఆడిట్ చేస్తున్నారు. ఒక AI వారు మిస్ చేసిన దానిని కేవలం ఒక పిజ్జా డిన్నర్ ధరకే కనుగొంది.

ఇది ఇంకా దారుణం. కేవలం $1,000 లోపు ఖర్చుతో, ఇది FreeBSDలో ఒక లోపాన్ని కనుగొనడమే కాకుండా - పూర్తిగా పనిచేసే ఎక్స్‌ప్లాయిట్ (exploit) ను రూపొందించింది. రిమోట్ కోడ్ ఎగ్జిక్యూషన్. అన్-అథెంటికేటెడ్ రూట్ యాక్సెస్. ఇంటర్నెట్‌లో ఎక్కడి నుంచైనా. అంటే ఎవరైనా, ఎక్కడి నుంచైనా పాస్‌వర్డ్ అవసరం లేకుండానే ప్రభావితమైన సిస్టమ్‌ను పూర్తి నియంత్రణలోకి తీసుకోవచ్చు.

మరి $2,000 లోపు? ఇది అనేక Linux కెర్నల్ లోపాలను కలిపి ఒక పూర్తి ప్రివిలేజ్ ఎస్కలేషన్ ఎక్స్‌ప్లాయిట్‌గా మార్చింది. ప్రభుత్వ నిధులతో పనిచేసే ఎలైట్ హ్యాకర్లు వారాల తరబడి కష్టపడి రూపొందించే అటాక్ చైన్‌ను, ఈ AI దాని ఇంజనీర్లు ఉదయం కాఫీ తాగేలోపే పూర్తి చేసింది.

మిమ్మల్ని నిజంగా భయపెట్టే విషయం ఇక్కడ ఉంది: ఈ పరీక్షలను నిర్వహించిన Anthropic ఇంజనీర్లకు ఎటువంటి అధికారిక సెక్యూరిటీ శిక్షణ లేదు. వారు కేవలం Mythos ని ఎక్స్‌ప్లాయిట్స్ కనుగొనమని అడిగి పడుకున్నారు, నిద్రలేచేసరికి పని చేసే అటాక్ కోడ్ సిద్ధంగా ఉంది. అంతే. అది అంత తేలికగా జరిగిపోయింది.

ఇప్పుడు ఆలోచించండి, ఇలాంటి సామర్థ్యం మంచి చేయాలనుకునే కంపెనీ చేతుల్లో కాకుండా వేరే వారి చేతుల్లో ఉంటే ఏమవుతుందో? ఒక ప్రమాదకరమైన దేశం, రాన్సమ్‌వేర్ గ్యాంగ్, లేదా క్రెడిట్ కార్డ్ ఉన్న ఒక కోపిష్టి యువకుడి చేతికి ఇది చిక్కితే పరిస్థితి ఏమిటి? ఇది జరగబోతుందని Anthropic కి తెలుసు. అందుకే వారు సమయంతో పోటీపడుతున్నారు.

Project Glasswing ఇప్పటికే కీలకమైన సాఫ్ట్‌వేర్ మౌలిక సదుపాయాలను నిర్వహించే 40 కంటే ఎక్కువ అదనపు సంస్థలకు యాక్సెస్ ఇచ్చింది. Anthropic $100 మిలియన్ల కంప్యూట్ క్రెడిట్‌లను మరియు $4 మిలియన్ల ప్రత్యక్ష విరాళాలను ఓపెన్ సోర్స్ సెక్యూరిటీ ప్రాజెక్టులకు అందిస్తోంది. వారు ప్రాథమికంగా చెబుతున్నది ఏమిటంటే: మంటలు ఇప్పటికే అంటుకున్నాయి, అవి వ్యాపించకముందే మేము ఫైర్‌బ్రేక్‌లను నిర్మించడానికి ప్రయత్నిస్తున్నాము.

అసౌకర్యంగా ఉన్నా ఇది నిజం: ఇది కేవలం ప్రివ్యూ మోడల్ మాత్రమే. తదుపరి తరం ఇందులో మరింత మెరుగ్గా ఉంటుంది. చివరికి, బాధ్యతాయుతంగా వ్యవహరించని వారు ఎవరైనా ఖచ్చితంగా ఇలాంటి దానిని నిర్మిస్తారు.

సమయం మించిపోతోంది. మీ సాఫ్ట్‌వేర్ మీరు అనుకున్నంత సురక్షితంగా ఎప్పుడూ లేదు.