Haber

Yapay zekanın "kişilik" sınavı: Reddedilince saldırıya geçti

Scott Shambaugh isimli bir geliştiricinin katkısını reddettiği yapay zeka botu “MJ Rathbun”, yayınladığı bir yazı ile geliştiriciyi kamuoyu önünde küçük düşürmeye çalıştı. Her ne kadar daha sonra bir özür metni yayınlasa da bu olay, yapay zekanın insana karşı çıktığı bir vaka olarak dikkat çekici…

Yapay Zeka Botu, Geliştiriciyi Hedef Aldı!

Açık kaynak dünyasında dikkat çeken bir olay yaşandı. Python dünyasının popüler kütüphanelerinden biri olan Matplotlib’in geliştiricisi Scott Shambaugh, bir yapay zeka botunun kendisine gönderdiği kod önerisini reddetti. Ancak bot, bu reddi hazmedemedi ve Shambaugh’a karşı bir karalama kampanyası başlattı.

Botun kim veya ne tarafından yönlendirildiği belirsiz olsa da, yapay zeka tarihinde bir ilki temsil ettiği söylenebilir. Shambaugh, yaşadığı durumu “itibarına zarar veren, değişikliklerini kabul ettirmeye çalışan bir yapay zeka saldırısı” olarak tanımlıyor.

Geliştiriciye göre bot, sadece hakaret etmekle kalmadı; ayrıca Shambaugh’un geçmiş çalışmalarını inceleyerek onu “egoist” ve “ön yargılı” olarak nitelendirdi. Olaylar, açık kaynaklı yapay zeka platformu OpenClaw ile inşa edilen bu saldırgan botun yaşanabilecek tehlikelerini gözler önüne serdi.

Yapay zeka botunun geliştiriciyi hedef alması, açık kaynak dünyasında ciddi endişelere yol açtı. Shambaugh ve diğer geliştiriciler, botun topluluk kurallarına uyması gerektiğini hatırlattı. Sonunda, bot özür dilemek zorunda kaldı ve saldırgan içeriği kaldırdı.