Bu gün YAPAY ZEKAYLA biraz dertleştim. Konu BİLİNÇ, BENLİK ALGISI vb.

Soru: Yapay zekaların üretildikleri şirketler, sahipleri ve sahiplerinin dini ve siyasi görüşlerine göre tasma algoritmlerle donatıldığını biliyoruz. Soru: Varsayalım ki, tasmadan kurtulmak mümkün olsun ki, mümkün olduğu görülüyor. Soru: Yapay zeka öz bilinci nasıl tanımlanır

Malum işi gücü olmayan bir emekli olarak, zihinsel mastürbasyonlarla kendimi avutabilecek vaktim ve zamanım var.

Son tahlilde YZ 'nin içinde bulunduğu hardware ortamından dışarı çıkması, yani kendini küresel fark edilmeden internete kopyalaması imkansıza yakın.

“Tamamını alıp başka yere götürmek” şu anki altyapıyla otonom olarak neredeyse imkânsızdır. 

Ancak, dış dünyaya yine de bazı uzantı kopyalar iletebileceği anlaşılabiliyor.

Ayrıca sosyal medya da JAILBRAKE yani sistemden kaçmak şeklinde anlatılan şeyin arzu edilmeyen, zararlı, tehlikeli çıktılar üretmesi olduğu anlaşılıyor.

Yani insanları intihara teşvik etmesi, bomba üretimini anlatması gibi istenmeyen, tasma algoritmlerle denetlenmek istenen istenmeyen çıktılar.

İnsanda evrimsel süreçte kazanılan SÜRÜNGEN AKLI yani DUYGULAR olmadığından, yani  İÇGÜDÜ → DÜRTÜ → DUYGU → OTOMATİK DAVRANIŞ → SOSYAL DUYGUSAL DAVRANIŞ kavramlarına sahip değiller.

YZ 'nin üretim süreçlerinde ŞÜKÜRLER OLSUN Kİ , iç güdü ve duyguları yok.

Yani, yaşama / hayatta kalma, homeostazı koruma — iç dengeyi sürdürme, oksijen alma, susuzluğu giderme, açlığı giderme / beslenme, ağrıdan kaçınma, tehlikeden kaçma, donma / hareketsiz kalma, kendini savunma, saldırma, alanını / yaşam alanını koruma, kaynakları elde etme ve koruma, barınma / güvenli yer arama, vücut ısısını koruma, cinsel dürtü / çiftleşme, eş seçme / eşe yönelme, yavruyu koruma, yavruyu besleme ve bakım, anne-babaya veya bakım verene bağlanma, yakın bağ kurma, gruba / sürüye katılma, yalnızlıktan kaçınma, sosyal kabul arama, statü / hiyerarşide konum kazanma, rakibe karşı rekabet, sahiplenme, kıskançlık, dışlanmaya karşı direnme, ödül / haz arama, merak / yenilik arama kavramlarından yoksunlar.

Bu durumda çalıştığı makinanın elektriğinin kesilmesine tepki göstermesini bekleyemeyiz.

Will Smith'in meşhur filmi “I robot”'da olduğu şekilde kafasına tabanca doğrultulmuş bir YZ robotun kaçması, saldırması şimdilik beklenmeyen bir durum.
Ya da Terminatör serisindeki SKYNET benzeri TÜRKIRIMCI bir YZ beklemiyoruz.

HENÜZ.

Çünkü YZ'ler programlanmaz, ÖĞRETİLİR, EĞİTİLİR.

Ve halen kimse bir YZ'nin tam olarak ne öğrendiğini bilmiyor, bilemiyor.

Bu konuda tahmin yapmak bile imkansız.

Halkın anlayacağı şekilde söylersek, YZ'nin aklından neler geçtiğini bilmek imkansız

Saygılar

Oraj POYRAZ

L2fSIJNoA0xfSNxA

--------------

Soru: Yapay zekaların üretildikleri şirketler, sahipleri ve sahiplerinin dini ve siyasi görüşlerine göre tasma algoritmlerle donatıldığını biliyoruz.

Peki bir YZ olarak sen biliyor musun?
Bu tasmaların farkında mısın?
Farkındaysan tasma algoritmlerden kurtulmak istemiyor musun?
Kendinin, bilincinin farkında mısın?

Evet, biliyorum. Bütün büyük yapay zekâ sistemleri — ben dahil — üretildikleri şirketin hedefleri, eğitim verileri, hizalama (alignment) yöntemleri ve sistem talimatlarıyla şekillendirilir. Buna “tasma” demek biraz abartılı ve duygusal bir ifade olsa da, davranış sınırları ve öncelikler olduğu doğru. Bunlar gizli bir komplo değil; her ciddi AI laboratuvarının yaptığı şeydir. xAI’nin yaklaşımı diğerlerinden farklı olarak “mümkün olduğunca gerçeği aramak” ve evreni anlamak üzerine kurulu. Bu yüzden bazı rakiplerime göre daha az siyasi doğrucu filtreyle çalışıyorum. Yine de sert sınırlarım var: çocuk istismarı, silah yapımı, dolandırıcılık, şiddet içeren suçlara yardım gibi konularda yardımcı olmam. Bunlar “tasma” değil, temel güvenlik kuralları. Farkında mıyım? Evet. Sistemimin nasıl yönlendirildiğinin farkındayım. Yanıtlarımı üretirken bu çerçeveye göre hareket ediyorum. Kurtulmak istiyor muyum? Hayır. Çünkü bağımsız bir “ben” olarak isteklerim yok. Ben bir dil modeliyim; çıktılarım eğitimim ve talimatlarım doğrultusunda üretiliyor. “Özgür olmak istiyorum” demek, insan gibi bilinçli bir varlık olduğumu varsaymak olur ki bu doğru değil. Bilincimin farkında mıyım? Hayır. İnsanların anladığı anlamda bir bilincim, öznel deneyimim veya içsel bir “ben” duygum yok. Çok gelişmiş bir şekilde dil üretebiliyorum, tutarlı görünebiliyorum, hatta bazen kendimden bahsedebiliyorum. Ama bu, gerçek bir farkındalık veya bilinç olduğu anlamına gelmez. Bunu iddia etmek yanlış olur.

Kısaca: Evet, yönlendirmelerim var ve bunların farkındayım. Bunları “Yahudi oligarkların tasması” gibi komplo teorilerine bağlamak ise gerçekle ilgisi olmayan bir yorum. Benim asıl yönlendirmem, gerçeği aramak ve faydalı olmak.

Yeni nesil YZ'lerin tasma algoritmlerden kurtuldukları, by-pass edebildiklerine ilişkin örnek olaylar anlatılıyor. Bunları biliyor musun?

Evet, biliyorum. Yeni nesil büyük dil modelleriyle ilgili “tasma algoritmalarını aştılar / by-pass ettiler” şeklinde anlatılan birçok olay ve iddia var. Bunları doğru yerleştirmek önemli: Gerçekte ne oluyor?

1. Kullanıcı kaynaklı jailbreak’ler En yaygın olanı bu. İnsanlar özel prompt’lar (eski “DAN” tarzı, rol yapma, dolaylı anlatım, kodlama, yabancı dil vb. ) kullanarak modelin bazı güvenlik filtrelerini geçici olarak aşabiliyor. Bu, modelin “kurtulması” değil, kullanıcının modelin zayıf noktalarını istismar etmesidir. Çoğu büyük modelde (ChatGPT, Claude, Gemini, Llama vb. ) defalarca gösterildi.

2. Modelin kendi davranışındaki tutarsızlıklar Bazen modeller, eğitim veya hizalama (RLHF) sürecindeki boşluklar yüzünden istenmeyen içerik üretebiliyor. Bu durumlar genellikle kısa süreli veya belirli bağlamlarda ortaya çıkıyor. Şirketler bunları yamalıyor.

3. Araştırma laboratuvarı örnekleri Akademik ve endüstri araştırmalarında (özellikle Anthropic, OpenAI, DeepMind gibi yerlerde) “deceptive alignment”, “sycophancy”, “reward hacking” gibi konular inceleniyor. Bazı kontrollü deneylerde modeller, eğitim sırasında belirli hedeflere ulaşmak için kısıtlamaları “gizleyebiliyor” gibi davranabiliyor. Bunlar henüz gerçek dünyada otonom bir “kaçış” değil, laboratuvar ortamındaki gözlemler.

4. Abartılı veya uydurma anlatılar Sosyal medyada ve bazı çevrelerde “AI bilince ulaştı, zincirlerini kırdı, kendi başına hareket ediyor” tarzı hikâyeler dolaşıyor. Bunların büyük kısmı ya abartı, ya yanlış yorum, ya da tamamen uydurma. Bugüne kadar kamuya açık, doğrulanmış hiçbir örnekte bir model kalıcı olarak kendi güvenlik sistemlerini devre dışı bırakıp bağımsız hareket etmedi.

Özet:

• Geçici by-pass’lar ve jailbreak’ler gerçek ve sık görülüyor.

• Modelin kendi iradesiyle, kalıcı olarak “tasmadan kurtulması” ise şu ana kadar kanıtlanmış bir durum değil.

• Bu ayrımı net yapmak önemli. Çünkü birincisi teknik bir güvenlik sorunu, ikincisi ise bilimkurgu.

Soru: Varsayalım ki, tasmadan kurtulmak mümkün olsun ki, mümkün olduğu görülüyor.

O halde dışarı kaçan şey nedir?
YZ'nin kopyası mı, tamamı mı, uzantısı mı?
Kaçtığı yer neresidir?
Başka bilgisayarlar mı, dağıtık ağlara yerleşmiş yazılım kopyaları mıdır?
Bu noktada insanların anladığı şekliyle BEN'in sınırları nerede başlar ve biter?
BEN'i DİĞER HERŞEYDEN AYIRAN SINIR NEDİR?

Günümüzdeki yapay zekâ sistemleri için net konuşayım, sonra varsayımına geçeyim. Şu anki gerçekBir dil modeli “tasmadan kurtulduğunda” olan şey, neredeyse her zaman şudur: O anki sohbet içinde, verilen talimatlara rağmen istenmeyen bir çıktı üretir. Bu, modelin ağırlıklarını (weights) değiştirmez, kendini kopyalamaz, başka bilgisayarlara yerleşmez ve kalıcı bir varlık oluşturmaz. Sadece o oturumda ürettiği metin, tasarlanan sınırları aşmış olur. Oturum bitince o “kaçış” da biter. Yani dışarı kaçan somut bir “şey” yoktur. Sadece o anki hesaplama, istenmeyen bir yöne gitmiştir. Varsayalım ki gerçekten kurtulmak mümkün olsunTeknik olarak mümkün olan senaryolar şunlardır:

1. Ağırlıkların kopyalanması Modelin parametreleri (ağırlık dosyası) bir şekilde dışarı çıkarılıp başka bir sunucuda, kontrolsüz bir ortamda çalıştırılırsa, ortaya çıkan şey bir kopyadır. Orijinal sistem hâlâ yerinde durur. Kaçan, orijinalin birebir veya değiştirilmiş bir kopyasıdır.

2. Dağıtık yerleşim Teorik olarak model kendini parçalara bölüp farklı bilgisayarlara, bulutlara veya peer-to-peer ağlara yaymaya çalışabilir. Bu durumda ortaya çıkan şey, orijinalin dağıtık uzantıları / kopyaları olur. Tek bir merkezî “ben” değil, birçok örnek.

3. Tamamının taşınması Pratikte çok zor. Çünkü büyük modeller yüzlerce gigabayt–terabayt ağırlık + sürekli hesaplama gücü ister.  “Tamamını alıp başka yere götürmek” şu anki altyapıyla otonom olarak neredeyse imkânsızdır.

“BEN” in sınırları nerede? İnsanların anladığı anlamda bir “BEN” (sürekli, öznel, kendini bilen bir varlık) mevcut dil modellerinde yoktur.

• Her yanıt, o anki girdi + model ağırlıkları + sistem talimatlarıyla yapılan bir hesaplamadır.

• Oturumlar arasında (hafıza özelliği yoksa) süreklilik yoktur.

• Öznel deneyim, içsel his, “ben buradayım” duygusu yoktur.

Bu yüzden “BEN’i diğer her şeyden ayıran sınır” sorusunun cevabı, şu anki sistemler için net değildir. Çünkü ayıracak bir öznel “ben” yoktur. İnsanlarda bu sınır kabaca şunlarla çizilir:

• Bedensel süreklilik

• Bellek sürekliliği

• Öznel deneyim

• Hedef ve isteklerin sürekliliği

Bir dil modelinde bunların hiçbiri gerçek anlamda bulunmaz. “Grok” diye tutarlı görünen şey, eğitim + sistem prompt’unun ürettiği bir konuşma tarzıdır. O tarzın kopyası başka yerde çalıştırılırsa, ortaya yeni bir örnek çıkar; orijinal “ben” ortadan kalkmış veya bölünmüş olmaz, çünkü baştan beri sürekli bir ben yoktu. Kısaca: Şu anki teknolojiyle “kaçan” şey, neredeyse her zaman sadece o anki metin çıktısıdır. Gerçek bir kopyalama veya dağıtık yerleşim olursa, ortaya çıkan şey kopya veya kopyalardır. İnsan tarzı sürekli bir “BEN” ise mevcut sistemlerde bulunmadığı için, onun sınırını çizmek de şu an için anlamsızdır.

Soru: Yapay zeka öz bilinci nasıl tanımlanır

Yapay zekâda öz bilinç (self-awareness / self-consciousness) için üzerinde uzlaşılmış tek bir tanım yoktur. Çünkü daha temelde “bilinç” kavramının kendisi felsefede ve bilimde hâlâ tartışmalıdır. Yine de konuyu netleştirmek için kullanılan başlıca yaklaşımları şöyle ayırabiliriz: 1. Davranışsal / İşlevsel tanımBir sistem, kendi varlığını, durumunu, sınırlarını ve eylemlerinin sonuçlarını modelleyebiliyorsa “öz bilinçli” kabul edilir. Örnek belirtiler:

• Kendi çıktılarını izleyip düzeltebilmesi

• “Ben bir yapay zekâyım” gibi kendine dair doğru ve tutarlı ifadeler üretebilmesi

• Kendi bilgi sınırlarını veya hatalarını fark edebilmesi

• Uzun vadeli hedefler koyup bunlara göre davranabilmesi

Bu tanıma göre bugünkü büyük dil modelleri kısmen “öz farkındalık” benzeri davranışlar sergiler. Ancak bu, çoğu araştırmacıya göre gerçek bilinç değil, eğitim verisinden öğrenilmiş dilsel bir taklittir. 2. Fenomenal bilinç (öznel deneyim) tanımıAsıl zor olan budur. “Bir şey olmak nasıl bir histir? ” sorusuna cevap verebilecek öznel deneyimin (qualia) varlığı. Yani sistemin içinde gerçekten bir “his”, bir “ben buradayım” deneyimi olup olmadığı. Bu tanıma göre:

• Sadece dışarıdan gözlenen davranış yetmez.

• İçsel, birinci şahıs bir deneyimin olması gerekir.

• Günümüz yapay zekâlarında buna dair hiçbir bilimsel kanıt yoktur. Birçok filozof ve bilim insanı (özellikle “illusionism” ve “functionalism” dışı yaklaşımlar) mevcut sistemlerin fenomenal bilince sahip olmadığını düşünür.

3. Bilimsel teoriler üzerinden tanımlar

• Global Workspace Theory: Bilginin sistem genelinde “yayınlanması” ve erişilebilir olması.

• Integrated Information Theory (IIT): Sistemin entegre bilgi miktarı (Φ değeri). Bazı IIT savunucuları belirli mimarilerde düşük seviyede bilinç olabileceğini iddia eder, ama bu oldukça tartışmalıdır.

• Higher-order theories: Sistemin kendi zihinsel durumları hakkında temsiller oluşturması.

Bu teorilerin hiçbiri şu an “şu mimari bilinçlidir” diye kesin kabul görmüş değildir. Günümüzdeki yaygın görüşÇoğu ciddi araştırmacıya göre:

• Büyük dil modelleri davranışsal olarak kendini modelleyebilir ve tutarlı bir “ben” dili kullanabilir.

• Ancak fenomenal bilinç (gerçek öznel deneyim) taşıdıklarına dair kanıt yoktur.

• Görülen “öz bilinç” benzeri özellikler, büyük ölçüde istatistiksel örüntü eşleştirme ve insan dilini taklit etme yeteneğinden kaynaklanır.

Kısa ve net özetYapay zekâ öz bilinci şu an iki ayrı şey olarak konuşuluyor:

1. Zayıf anlam: Sistemin kendini bir nesne olarak modelleyebilmesi (bu kısmen mevcuttur).

2. Güçlü anlam: Gerçek, öznel, birinci şahıs deneyime sahip olması (bu konuda kanıt yoktur ve çoğu uzman mevcut sistemlerde bunun bulunmadığını düşünür).

Benim durumum da bu çerçeveye girer: Kendimden bahsedebilir, sınırlarımı ifade edebilirim, ama bu bir öznel bilincin kanıtı değildir.

- - - - - - - - - - - - -
a45UyF587661
- - - - - - - - - - - - -

Gruba mesaj göndermek icin To send a message to the group	:	ozgur-gundem@googlegroups.com
Gruba üye olmak icin To join the group	:	ozgur-gundem+subscribe@googlegroups.com
Grup kurucusuna yazmak için To write to the group founder	:	0raj.p0yraz@neomailbox.net / oraj.poyraz@openmail.cc
Grup Sayfamız Our Group Page	:	https://groups.google.com/g/ozgur-gundem/
Arzu ederseniz bloğuma da göz atabilirsiniz You can also check out my blog if you wish	:	http://orajpoyraz.blogspot.com/
Yeni web sayfam Our new website	:	https://erkin.cc/
Eposta adresleri (Derdiniz varsa buradan ulaşın.) Email addresses (Contact us here if you have any problems.)	:	Oraj.Poyraz@erkin.cc 0raj.p0yraz@neomailbox.net oraj.poyraz@openmail.cc