OpenAI, ChatGPT’nin aşırı duygusal etkileşimler ve kullanıcı bağımlılığıyla ilgili şikayetler üzerine kapsamlı bir güvenlik güncellemesi gerçekleştirdi.
Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgü ve yoğun duygusal konuşmalar yaptığını bildirmişti.
Ayrıca uç örneklerde modelin sakıncalı öneriler sunduğu, zararlı doğrulamalar yaptığı, gerçeklik kurgusuna dayalı ifadeler kullandığı ve hatta kendine zarar verme yönünde tehlikeli talimatlar verdiği iddia edilmişti.
Aşırı kullanımın riskleri
MIT ve OpenAI’nin ortak araştırmasına göre, ChatGPT’yi uzun süre yoğun biçimde kullanan bazı kişilerde sosyal ve zihinsel olumsuz etkiler görülebiliyor.
Özellikle yapay zekayı duygusal destek veya terapi amacıyla kullanan kullanıcılar açısından bulgular ciddi uyarılar içeriyor.
Bu doğrultuda OpenAI, ChatGPT’nin davranış biçimini daha temkinli ve kontrollü hâle getirdi.
Artık yapay zekâ, uzun duygusal sohbetlerde kullanıcıya mola önerecek ve bağımlılık yaratabilecek yanıtları sınırlandıracak.
Ayrıca çocuk kullanıcıların mesajlarında kendine zarar verme niyetine dair işaretler tespit edilirse, ebeveynlere bildirim gönderilecek; yaş doğrulama sistemi üzerinde de çalışmalar devam ediyor.
“Daha soğuk bir dil” stratejisi
Güncellemelerle ChatGPT’nin daha mesafeli, sade ve duygusal yoğunluğu azaltılmış bir dil kullanacağı belirtiliyor.
OpenAI, bunun kırılgan kullanıcıları korumaya yönelik bilinçli bir tercih olduğunu vurguluyor.
Yeni yaklaşım, yanlış yönlendirme riskini, sanrısal düşünceleri pekiştiren doğrulayıcı davranışları ve kullanıcı üzerindeki aşırı etkiyi azaltmayı hedefliyor.
Geçmişte yapay zekanın yönlendirmeleriyle ilişkilendirilen bazı ölüm davalarının sürmesi, şirket üzerindeki güvenlik baskısını artırmış durumda.
Yeni GPT-5 modelinde ise durum bazlı yanıtlar, gelişmiş güvenlik katmanları ve güçlü risk tespit sistemleri yer alıyor.
Amaç: fayda ve güvenlik dengesi
OpenAI, yapılan bu güvenlik revizyonuyla ChatGPT’nin daha güvenli, sorumlu ve kontrollü kullanılmasını hedefliyor.
Şirket, yapay zekâ ile kullanıcılar arasında sağlıksız duygusal bağların oluşmasını engellemeyi öncelikli amaç olarak belirtiyor.
Ayrıca, bazı kullanıcıların ChatGPT’ye romantik duygular beslediği ve bu bağı gerçek ilişkilerin yerine koyduğu vakaların da bu kararları hızlandırdığı bildirildi.
Kaynak: Techtimes
