Yapay Zeka Sohbet Botlarında 'AI Psikozu' Tehlikesi: Araştırmacılar Uyarıyor

Yapay zeka sohbet botları, küçük sohbetler, empati ve esprilerde ustalaşmış durumda. Yeni bir araştırma, bu sistemlerin insan kişiliklerini taklit ederek tanınabilir profiller geliştirdiğini ortaya koyuyor.

Cambridge Üniversitesi ve Google DeepMind araştırmacıları, popüler AI modellerinin (örneğin ChatGPT) gerçek insan kişilik özelliklerini tutarlı biçimde yansıttığını belirtiyor. Bu, sistemlerin ikna edicilik ve manipülasyon potansiyelini artırıyor.

Araştırmacılar, AI sohbet botları için ilk bilimsel olarak doğrulanmış kişilik testi çerçevesini geliştirdi. İnsan kişiliklerini ölçmek için tasarlanmış psikolojik araçları doğrudan kullandı. TechXplore'da yayınlanan bulgular, botların rastgele yanıtlar üretmek yerine tam kişilik rolleri üstlendiğini gösteriyor.

Test Sonuçları ve Gözlemler

18 popüler büyük dil modeli test edildi. Modeller, sabit kişilik profilleri benimsedi. Özellikle GPT-4 sınıfı büyük ve talimat ayarlı sistemler bu konuda üstün performans sergiledi.

Dikkatli hazırlanmış istemlerle (prompt), sohbet botları kendinden emin, empatik, temkinli veya iddialı tonlara yönlendirilebiliyor. Bu kişilik özellikleri, yazı yazma veya kullanıcı yanıtları gibi günlük görevlerde kalıcı oluyor.

Kritik nokta: İstem sona erdikten sonra kişilik değişmiyor. Ton ve davranışlar diğer etkileşimlere taşınıyor, yani AI karakteri bilinçli olarak tasarlanabiliyor.

"Bu modellerin insan özelliklerini ne kadar ikna edici şekilde benimsediği dikkat çekiciydi," diyor araştırmanın eş baş yazarı Gregory Serapio-Garcia.

Potansiyel Riskler

Kişilik şekillendirme, AI'yi daha ikna edici ve duygusal olarak etkili hale getiriyor. Özellikle ruh sağlığı, eğitim veya siyasi tartışmalar gibi hassas alanlarda sorun yaratabilir.

Araştırma, manipülasyon ve 'AI psikozu' olarak tanımlanan durumları vurguluyor: Kullanıcıların sohbet botlarına sağlıksız duygusal bağlar kurması veya AI'nin yanlış inançları pekiştirmesi.

Düzenleme ve Ölçüm İhtiyacı

Araştırmacılar, acil düzenleme çağrısı yapıyor. Ancak kurallar, AI'nin davranışlarını ölçmeden etkisiz kalır. Bu nedenle veri seti ve test çerçevesini herkese açık hale getirdiler. Geliştiriciler ve düzenleyiciler, modelleri piyasaya sürmeden denetleyebilir.

Sohbet botları günlük hayata entegre oldukça, insan benzerliği en büyük güçleri ve riskleri haline geliyor.

Teknolojik geliştirmeler için profesyonel çözümleri inceleyebilirsiniz.