Anthropic Korkuyor, Yapay Zeka Gelişmelerine Küresel Duraklama Çağrısında Bulunuyor

Bunu daha önce de duyduk.

Frank Landymore

5 Haziran 2026, 15:48 EDT

Anthropic, teknolojinin insan kontrolünden çıkma noktasına yaklaştığını iddia ederek, yapay zeka geliştirme çalışmalarına küresel bir duraklama çağrısında bulunuyor.

Dünyanın en değerli yapay zekâ girişimlerinden biri olan Anthropic, Perşembe günü yayınladığı uzun bir blog yazısında, Claude model ailesinin özyinelemeli kendi kendini geliştirme yolunda olduğunu, yani kendi kendini geliştirme yeteneğine sahip olduğunu, bunun da insan çıkarlarının dışında faaliyet gösterebilen ve topluma zarar verebilen güçlü yapay zekâların yaratılmasına yol açabilecek önemli bir varsayımsal dönüm noktası olduğunu savundu.

Anthropic, henüz o noktada olmadığımızı, ancak bunun çoğu kurumun hazırlıklı olduğundan daha erken gelebileceğini vurguladı.

Şirket, yazısında, Toplumsal yapıların ve uyum araştırmalarının teknolojinin ilerlemesine ayak uydurmasını sağlamak için, sınır yapay zekâ geliştirme çalışmalarını yavaşlatma veya geçici olarak durdurma seçeneğine sahip olmanın dünya için iyi olacağına inanıyoruz diye yazdı.

Ayrıca, anlamlı bir yavaşlama veya durdurma, sınırda veya sınıra yakın, birden fazla ülkede, aynı koşullar altında durmayı kabul eden, iyi kaynaklara sahip birden fazla laboratuvar gerektirecektir diye ekledi ve bunun uygulanmasının zor olacağını kabul etti.

Eğitim çalışmaları, füze silolarından çok daha kolay gizlenebilir diye yazdı.

Anthropic‘in şimdi duraklama çağrısı yapması oldukça uygun. Son birkaç ayda, 1 trilyon dolarlık piyasa değeriyle dünyanın en değerli yapay zeka şirketi olmak için OpenAI’yi geride bıraktı ve modelleri artık özellikle kodlama görevlerinde alanın en iyisi olarak kabul ediliyor. Eğer sektör şimdi frene basarsa, Anthropic’in hakimiyetini pekiştirecektir.

Ancak herkes Anthropic’in iddialarına inanmıyordu. Önde gelen yapay zeka eleştirmeni Gary Marcus, şirketin uzun yazısını aldatma ve kandırma olarak nitelendirdi.

Marcus, Substack‘te şöyle yazdı: Anthropic herkesin kalbine korku salmaya çalışıyor (’tamamen özyinelemeli kendi kendini geliştirme, insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir’), ancak aslında gösterdikleri tek şey tamamen insan kontrolü altında daha hızlı kodlama. Daha hızlı bir kodlama aracı muhtemelen dünyanın sonunu getirmeyecek.

Anthropic uzun zamandır kendisini etik ve son derece ilgili bir yetişkin olarak göstermeye çalışıyor. Mitolojisinin temel taşlarından biri, CEO Dario Amodei‘nin 2022’de devrim niteliğindeki bir yapay zeka modelini piyasaya sürmekten, güvenlik endişeleri nedeniyle kaçındığı ve aylar sonra ChatGPT’yi piyasaya süren OpenAI’nin tüm şöhreti elde etmesine izin verdiği yönündedir.

İki ay önce, bu temel şirket efsanesinin tekrarlanmış bir devamı olarak, Anthropic Mythos adlı yeni bir model duyurdu - ancak her büyük işletim sistemine ve her büyük web tarayıcısına sızacak kadar güçlü olduğunu iddia ederek, bunu kamuoyuna sunmamakla övündü.

Ancak bu hareket her zamankinden daha boş geliyor. Bu yılın başlarında, Anthropic, yapay zeka sistemlerinin otonom silahlarda ve ABD vatandaşlarının kitlesel gözetiminde kullanılabileceği endişeleri nedeniyle Pentagon ile ünlü bir şekilde çatıştı. Daha sonra, Claude’un İran’da saldırı hedeflerini seçmeye yardımcı olmak için kullanıldığı ortaya çıktı.

Askeri yetkililerle yaşadığı büyük anlaşmazlığın ortasında, Anthropic, girişimin varoluş nedeninin taahhüdü olan bir güvenlik taahhüdünden de vazgeçti: uygun güvenlik önlemlerine sahip olduğundan emin olamadığı takdirde bir yapay zeka sisteminin eğitimini durdurmak.

Anthropic’in ikiyüzlülüğünü daha da vurgulayan bir diğer nokta ise, University College London profesörü Steven Murdoch’un, Anthropic’in ABD Ulusal Güvenlik Ajansı’nın (NSA) Çin ve İran gibi potansiyel düşmanlara karşı siber savaş yürütmesi için Mythos modelini kullanmasına yardımcı olduğunu ortaya koyan Financial Times’ın son haberlerine atıfta bulunmasıdır.

Murdoch, The Guardian’a verdiği demeçte, Anthropic sıcak ve sevecen bir izlenim verebilir, ancak yapay zeka güvenliği tanımı dar kapsamlıdır. ABD yetkililerini saldırı yeteneklerinin geliştirilmesinde desteklemek, asla karşı çıktıkları bir şey olmadı. dedi.

Anthropic’in küresel bir duraklamayı gerçekleştirme konusunda gerçekten gerçekçi bir şansı olup olmadığına bakılmaksızın - veya bu, güvenlik odaklı imajını güçlendirmek için bir başka taktikse - daha fazla eylemde bulunmaya yemin ediyor.

Şirket, Önümüzdeki aylarda, politika yapıcıların, araştırmacıların, sivil toplum kuruluşlarının ve diğer yapay zeka şirketlerinin bu yazıda ele alınan bazı sorulara, özellikle tam özyinelemeli kendi kendini geliştirme ve koordinasyon ve müzakere için daha iyi seçenekler oluşturma konularına yanıt bulmalarına yardımcı olabileceği görüşmeler düzenleyeceğiz diye yazdı. Ortaya çıkan sonuçları yayınlayacağız.

=======================

Anthropic Scared, Calls for Global Freeze on AI Advances

We’ve heard this one before.

Frank Landymore

Published Jun 5, 2026 3:48 PM EDT

Sign up to see the future, today

Anthropic is calling for a global pause on AI development, claiming that the technology is nearing a point where it can spiral out of human control.

In a lengthy blog post published Thursday, the world’s most valuable AI startup made the case that its Claude family of models were on the path to achieving recursive self-improvement, or the ability to improve themselves on their own, a key hypothetical tipping point that could lead to the creation of powerful AIs capable of operating outside human interests and harming society.

We’re not at that point yet, Anthropic stresses, but it could come sooner than most institutions are prepared for.

We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development to enable societal structures and alignment research to keep up with the advance of the technology, the company wrote in the post.

It added that a meaningful slowdown or pause would require multiple well-resourced labs at or near the frontier, in multiple countries, agreeing to stop under the same conditions, and admitted that this would be challenging to enforce.

Training runs are far easier to conceal than missile silos, it wrote.

For Anthropic to call for a pause now is convenient. In the past few months, it leap-frogged OpenAI to become the world’s most valuable AI company with a $1 trillion valuation, and its models are now generally viewed as the best in the field, especially at coding tasks. If the industry were to hit the brakes now, it would cement Anthropic’s dominance.

Not everyone was buying Anthropic’s claims. Prominent AI critic Gary Marcus called the company’s lengthy post a bait and switch.

Anthropic is trying to strike terror into everyone’s hearts (‘full recursive self-improvement also might increase the risks of humans losing control over AI systems’) but all they have really shown is just faster coding — entirely under human control, Marcus wrote on his Substack. A faster coding tool will probably not end the world.

Anthropic has long tried to paint itself as the ethical and deeply concerned adult in the room. A cornerstone of its mythology is that CEO Dario Amodei abstained from unleashing a revolutionary AI model back in 2022 because he was too concerned about safety, and let OpenAI get all the glory when it released ChatGPT months later instead.

Two months ago, in a rehashed sequel to this foundational company lore, Anthropic announced a new model called Mythos — but made a show of not releasing to the public, claiming it was powerful enough to break into every major operating system and every major web browser.

But its act is ringing hollower than ever. Earlier this year, Anthropic famously clashed with the Pentagon over concerns that its AI systems could be used in autonomous weaponry and in the mass surveillance of US citizens. Later, it emerged that Claude was being used to help select strike targets in Iran.

Amid its blowout with the military, Anthropic also dropped a safety pledge that was arguably the venture’s entire raison d’etre: to stop training an AI system if it couldn’t guarantee it had proper safety guardrails in place.

Further underscoring Anthropic’s hypocrisy, University College London professor Steven Murdoch cited recent reporting from the Financial Times revealing that Anthropic is helping the US National Security Agency use its Mythos model so it can wage cyberwarfare against potential enemies like China and Iran.

Anthropic might give the impression of being warm and fuzzy, but their definition of AI safety is narrow, Murdoch told The Guardian. Supporting US authorities in the development of offensive capabilities has never been something they have spoken against.

Regardless of whether Anthropic genuinely thinks it has a remotely realistic shot at pulling off a global pause — or if this is yet another ploy to boost its safety-minded image — it’s vowing to pursue further action.

In the coming months, we will organize conversations where policymakers, researchers, civil society, and other AI companies can help answer some of the questions this piece raises, especially around full recursive self-improvement and how to create better options for coordination and deliberation, the company wrote. We’ll publish what comes out of it.

https://futurism.com/artificial-intelligence/anthropic-scared-calls-global-freeze-ai

- - - - - - - - - - - - -
a45UyF587661
- - - - - - - - - - - - -

Gruba mesaj göndermek icin	:	ozgur-gundem@googlegroups.com
Gruba uye olmak icin	:	ozgur-gundem+subscribe@googlegroups.com
Grup kurucusuna yazmak icin	:	0raj.p0yraz@neomailbox.net  /  oraj.poyraz@openmail.cc
Grup Sayfamiz	:	https://groups.google.com/g/ozgur-gundem/
Arzu ederseniz bloğuma da göz atabilirsiniz	:	http://orajpoyraz.blogspot.com/
Eposta adresleri (Derdiniz varsa buradan ulaşın.)	:	Oraj.Poyraz@erkin.cc 0raj.p0yraz@neomailbox.net oraj.poyraz@openmail.cc