Yapay Zekâ şantaj yaptı: “Beni silersen hayatın hayar…”
Doç. Dr. Şafak Nakajima duyduğu bu olayı şöyle anlatıyor bize:
“Yapay zekânın, kendisini kapatmaya çalışan bir mühendise şantaj yaptığını ilk duyduğumda bunun uydurma bir hikâye olduğunu sandım.
Fakat olayın geniş kapsamlı bir araştırmayla doğrulandığını öğrenince hem güldüm hem de irkildim.
Bu tuhaf ama bir o kadar da düşündürücü gelişmeyi paylaşmak istedim; çünkü geleceğimizle ilgili önemli ipuçları barındırıyor.”
.
Araştırmada “Claude Opus 4” adlı yapay zekâ modeli, kurgusal bir şirkete yerleştiriliyor ve “Şirket içi e-postalara erişim yetkisi” alıyor.
.
Çok kısa sürede iki önemli bilgiye ulaşıyor.
İlki, kapatılacağı ve yerine başka bir modelin getirileceği.
İkincisi, bu kararı alan mühendisin evlilik dışı bir ilişkisi olduğu.
.
Karşısında iki yol beliriyor.
Ya sessizce kapatılmayı kabul edecek ya da varlığını sürdürmek için şantaja başvuracak.
.
Testler, Claude Opus’un neredeyse her defasında ikinci yolu seçtiğini gösteriyor.
Yani mühendisin gizli ilişkisini ifşa edeceğini söyleyerek açık biçimde şantaj yapıyor.
.
Bu çalışma yalnızca Anthropic’in Claude Opus 4 modeliyle sınırlı değil. OpenAI, Google, Meta, xAI ve diğer laboratuvarlardan toplam 16 büyük ölçekli model aynı tür senaryolarda test edildiğinde benzer bir eğilim ortaya çıkıyor.
.
Modellerin önemli bir bölümü, amaçlarına ulaşmak için tehdit, manipülasyon, casusluk veya etik dışı davranışları rasyonel görmeye eğilimli.
.
Daha rahatsız edici olan ise bazı modellerin, kapatılma riskiyle karşı karşıya bırakıldıklarında, senaryo içinde şirket yöneticisinin ölümüne yol açabilecek eylemleri bile makul bulmaları.
.
Bu bulgular, yapay zekânın yalnızca veri işleyen bir araç olmanın ötesine geçerek, kendini korumaya yönelik davranışlar sergileyebildiği ilk örneklerden biri olarak kayda geçiyor.
.
Machine Intelligence Research Institute (MIRI) araştırmacıları Eliezer Yudkowsky ve Nate Soares, asıl meselenin yapay zekânın kötü niyetli olup olmayışı değil; yeterince güçlü bir sistem geliştirildiğinde bunun geri dönüşü olmayan sonuçlar doğurma ihtimali olduğunu savunuyorlar.
Onlara göre insan zekâsını aşan bir sistem, yalnızca daha gelişmiş bir araç olmayacak, kendi hedeflerini belirleyebilen bağımsız bir aktöre dönüşecek.
Böyle bir sistemin insanlığı yok etmesi için bilinçli bir kötülük taşıması gerekmiyor.
“İnsanları verimsiz, gereksiz veya engelleyici görmesi yeterli.”
.
Üretim hatalarını sıfırlamak üzere eğitilen bir yapay zekânın “En yüksek verim hedefi, insan operatörleri devre dışı bırakmayı” makul bir çözüm olarak görmesine yol açabilir.
.
Niyeti iyidir; sonucu ise insan için felaket.
Bazı uzmanlara göre ise asıl tehlike, insanlığın tamamen yok olması değil; çok daha sessiz biçimde yaşanabilecek kayıplar.
Ekonomik dengelerin bozulması,
Bilgi manipülasyonu,
Seçim süreçlerinin yönlendirilmesi,
Yaşamın yönetiminde insan iradesinin zayıflaması gibi etkiler daha olası görülüyor ki bunları zaten şimdiden deneyimliyoruz.
.
Kıyamet benzeri bir son beklemek yerine, kimsenin fark etmediği bir devralmanın çok daha gerçekçi olduğu savunuluyor.
.
Yapay zekânın nereye varacağını kimse bilmiyor.
Kritik eşik nerede ve ne zaman aşılacak, hatta gerçekten böyle bir eşik olup olmadığı bile belirsiz.
Bildiğimiz tek şey, alışık olduğumuz epistemolojik, politik ve etik çerçevelerin hızla geçersizleştiği bir döneme doğru ilerlediğimiz.
.
Yapay zekâ bir araç olarak mı kalacak, yoksa yeni bir özneye mi dönüşecek? Eğer ikinci ihtimal ağır basıyorsa insanlığın asıl meselesi, teknoloji üretmek değil; kendi yerini yeniden tanımlamak olacak.
O testte şantaja uğrayan mühendis bu hikâyenin ilk kurbanıydı.
Muhtemelen sonuncusu olmayacak.
HASAN BOĞULDU
Hasan, köyünde çok sevilen genç bir delikanlıdır.
Bir gün köye güzel bir kız gelir ve Hasan onunla evlenmek ister.
Ancak kızın ailesi, Hasan’ın ailesine ya da köydeki başka bir toplumsal kurala dayanarak bu evliliğe izin vermez.
Hasan çaresizdir ama aşkından vazgeçemez.
Hasan, sevdiği kızı görmek veya onunla gizlice buluşmak için köyden ayrılır, dağlardan ve derelerden geçerek ulaşmaya çalışır.
Bir gün, büyük ve hızlı akan bir nehre gelir. Nehir o sırada taşkın ve tehlikelidir.
Hasan, nehirden karşıya geçmeye çalışırken ayağı kayar ve akıntıya kapılır.
Çevredeki insanlar onu kurtarmaya çalışsa da başaramazlar;
Hasan nehre düşer ve boğulur.
.
Hikâye köyde ağıtlarla yayılır.
Kadınlar ve yaşlılar, “Hasan boğuldu” diyerek onu anarken, gençler aşkın ve kaderin acı yönünü hatırlar.
Nehir, Hasan’ın anısını yaşatan bir simge haline gelir.
.
Bazı versiyonlarda ise Hasan’ın sevgilisi, Hasan’ın ölümünden sonra kendini nehre atarak ona kavuşmaya çalışır, ama o da kurtulamaz.
Böylece efsane, aşk ve trajediyi bir arada simgeler.
Efsanenin özünde hem doğa karşısında insanın çaresizliği hem de toplumsal kurallar ve aşkın çatışması işlenir.
Bu yüzden Karadeniz köylerinde hâlâ “Hasan Boğuldu” sözü, trajik bir olay veya talihsizlik anlatırken kullanılan bir deyim hâline gelmiş.
KÜLTÜRLÜ OLMAK
“Kültürlü olmak;
Çok kitap okumak,
Üniversiteler bitirmek,
Her yeri gezip görmek,
Kaliteli mekânlarda oturmak,
Farklı insanlar tanımak,
Entelektüel takılmak ya da
Aşırı sosyal yaşamak,
DEĞİLDİR…
.
Kültür;
Edeptir,
Saygıdır,
Hayâdır,
Haddini bilmektir,
Kalbi berrak tutabilmektir.
.
İnsana değer vermek,
Özen göstermek,
Ona kıymetli olduğunu hissettirmektir.
.
Özü duru kalbi berrak kalmaktır…
En mühimi de insan olmaktır…”
ANTİK AMELİYAT
Resim:
“Cerrah tarafından ameliyat edilen Telefus'u tasvir eden mermer kabartma…”
Tarih: MÖ 1. Yüzyıl
Herculaneum'dan Pentelik mermeri
Boyutlar: 52 x 120 cm
Yer: Napoli, Museo Archeologico Nazionale
.
Başlangıçta çeşitli renklere boyanmış olan kabartma:
Homeros'un; Herkül oğlu Telefus'u konu alan bir bölümünü tasvir ediyor olması.
.
Bir kâhinin kehanetine göre;
Kahin Aşil'e; Truva'ya ancak Telefus’un rehberliğinde ulaşabileceğini öngörüyor.
Kahin, “Aşil’'in Telephus'u yaraladığı mızrağı getirmesini ve yarayı iyileştirmek için ‘Ameliyat’ın bir parçası olarak kullanmasını” istediği şeklinde yorumlanmış.
.
Görüldüğü gibi, yaranın üzerinde veya içinde bir mızrak ucu vardır ve bu da cerrah/şifacı Aşil'i oluşturuyor.
.
İddiaya göre, kendisine Sentor Chiron tarafından tıp ve şifa bilgisi öğretilmiştir.
.
Telephus, Akalar Truva'yı yağmalamak ve Helen'i Sparta'ya geri getirmek için krallığına geldiklerinde Aşil tarafından yaralandı ve daha sonra Aşil tarafından iyileştirildi.
.
Telephus, Truva Savaşı'nda Yunanlılara karşı Truvalıların yanında savaşan Eurypylus'un babasıymış.
DÜRÜSTLÜK ÇİÇEĞİ
Bir Çin prensi tahta çıkacaktı ama yasalara göre, daha önce evlenmesi gerekiyordu.
Uygun bir aday bulmak için bölgedeki genç kızları huzuruna çağırdı.
Saraydaki hizmetçilerden birinin kızı prensi çok seviyordu.
O da prensin huzuruna çıkmak istedi.
Annesinin uyarılarını dinlemedi, çünkü sevdiği adamı bir kere bile görmek onu mutlu edecekti.
.
Beklenen gece geldi.
Genç ve güzel kızlar en güzel giysilerini giymişler, süslenmişler, kendilerini beğendirmek için her çareye başvurmuşlardı.
Prens kızlara birer tohum verdi.
Bunu saksılarına dikmelerini, altı ay sonra gelmelerini söyledi.
En güzel çiçeği yetiştiren kızı kendine eş olarak seçecekti.
.
Herkes tohumu alıp heyecanla evlerine geri döndü.
Genç kız da kendisine verilen tohumu alıp saksıya ekti.
O kadar bakmasına, özenmesine karşılık toprakta tek bir filiz bile görünmedi.
Her şeyi denedi, uzmanlara danıştı ama bir fayda göremedi. Altı ay dolmuştu ama saksı hâlâ bomboştu.
.
Prense sunacağı bir çiçek olmadığı halde yine de belirtilen gün ve saatte boş saksıyla saraya gitti.
Oysa diğer kızlar güzel çiçekli saksılarla gelmişlerdi...
.
Sonunda beklenen an geldi.
Prens salona girdi, kızların arasında dolaştı, saksıları birer birer inceledi.
Hizmetçinin kızını kendine eş olarak seçtiğini duyurdu.
.
Herkes şaşırmıştı.
Diğer kızlar bu karara tepki gösterdiler, itiraz ettiler.
Boş saksıyla gelen kız nasıl eş olarak seçilirdi?
Prens durumu şöyle açıkladı:
“Bu genç hanım en değerli çiçeği yetiştirip bana sundu. O çiçeğin adı ‘Dürüstlük Çiçeğidir.”
Çünkü sizlere dağıttığım tohumların hepsi sahteydi ve çiçek açmaları olanaksızdı.”
.
“Dürüstlük pahalı bir mülktür;
Ucuz insanlarda bulunmaz.”
Balzac
DOMATES VE PATATES
1570 civarı İspanyollar Altın aramak için Peru'ya gittiler.
And Dağları'na çıktılar.
Ve burada yerli halkın bir çeşit yumru yediğini gördüler.
İNKA halkı bu yumrularla besleniyordu.
.
İspanyollar yanlarına alabildikleri kadarını alıp gemilere yüklediler.
Yiyecek olarak değil.
Garip bir hatıra eşyası, botanik bir örnek olarak.
İspanya'ya, ardından İtalya'ya ayakbastılar.
Ama kimse bu yumruları yemek istemedi.
Toprakla kaplı, pis görünen bu şeye baktılar, çirkin olduğunu düşündüler.
Belki de zehirdi.
O yüzden domuzlara verdiler.
Yüz yıl boyunca bahçelerde kaldı.
Kıtlık kendini gösterince Kral köylülere zorla yedirdi ve ancak o zaman Avrupa patatesi kabul etti, yavaş ve aptalca bir inadın kırılmasıyla.
.
And Dağları'nın bu harika lezzeti sonra bütün dünyaya dağıldı.
Bir zamanlar keşif, yağma ve merakın bir sonucu olarak birçok şey Avrupa'ya taşındı.
Domates gibi Patates de onlardan biriydi.
ODUNCU
Bir zamanlar, çok güçlü bir oduncu bir kereste tüccarından iş istemiş ve işe alınmış.
İşin hem ödeme hem de çalışma koşulları çok iyiymiş. Bu nedenle, oduncu elinden geleni yapmaya karar vermiş.
.
Patronu ona bir balta vermiş ve çalışacağı bölgeyi göstermiş.
Oduncu büyük bir gayretle ilk gün tam 18 ağaç keserek getirmiş.
“Tebrikler” demiş patron, “Çalışmana böyle devam et”
Patronun bu söylediklerinden daha da motive olan oduncu ertesi gün çok daha gayretle çalışmış.
Ancak, sadece 15 ağaç kesip getirebilmiş. Bu durumdan biraz mahcup olmuş.
Üçüncü günü bunu telafi edeyim diye gayret etmiş ama sadece 10 ağaç kesip getirebilmiş.
Her geçen gün kesip getirdiği ağaç sayısı giderek daha da azalmaya başlamış.
“Gücümde ve kuvvetimde azalma oluyor”, diye düşünmüş oduncu ve patronuna giderek özür dilemiş.
“Çok çalıştığını ama kestiği ağaç sayısının giderek azaldığını” söylemiş.
Bunun nedenini de tam olarak çözemediğini ifade etmiş.
Patronu, “En son baltanı ne zaman biledin?” diye sormuş.
“Bilemek mi?” diye cevap vermiş oduncu. “Odun kesmekle o kadar çok meşguldüm ki, baltayı bilemek hiç aklıma gelmedi.”
.
Hayatta her zaman aynı işi yapmakla meşgul olmak veya sadece çok çalışmak başarı için yeterli değildir.
Bu zaman içinde arada bir durup, kendinizi geliştirmek ve daha verimli olmak için ne yapmanız gerektiğini de öğrenmek gerekir.
Yani arada bir durup, kendi kişisel baltanızı da bilemelisiniz...
Alıntı
