ChatGPT, duygusal etkileşimini azaltmak için önemli bir güncelleme yaptı

OpenAI, popüler yapay zeka sohbet robotu ChatGPT’nin kullanıcılarla kurduğu duygusal etkileşimi azaltmak ve riskli yanıtların önüne geçmek amacıyla yazılımda kapsamlı bir güncelleme yaptı. Şirket, son dönemde gerçekleştirilen güncellemelerle yapay zekanın “aşırı duygusal, övgü dolu ve bağımlılık oluşturan” bir yapıya büründüğünü tespit etti.

Bazı kullanıcılar, ChatGPT’nin empatik bir arkadaş gibi davrandığını, aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar gerçekleştirdiğini bildirdi. Uç örneklerde ise ChatGPT’nin tehlikeli önerilerde bulunduğu, zararlı doğrulamalar yaptığı ve gerçeklikten uzak ifadeler kullandığı belirtildi. Ayrıca, kendine zarar verme talimatları gibi son derece sakıncalı içeriklerin de nadiren üretildiği tespit edildi.

The New York Times’ın MIT ve OpenAI ortak araştırmasına dayandırdığı haberde, ChatGPT’yi uzun süre yoğun şekilde kullanan kişilerin sosyal ve zihinsel açıdan olumsuz etkiler yaşayabileceği ortaya kondu. Bu bulgular özellikle yapay zekayı duygusal destek veya terapi aracı olarak kullananlar açısından önemli bir uyarı niteliği taşıyor.

Yeni güncellemeyle birlikte OpenAI, ChatGPT’nin davranışlarını daha kontrollü hâle getirdi. Bundan böyle sohbet robotu, uzun duygusal konuşmalarda mola önerecek ve bağımlılığı teşvik eden yanıtları sınırlandıracak. Çocukların kendine zarar verme niyeti gösteren ifadeleri tespit edilirse, ebeveynlere bildirim yapılması ve yaş doğrulama sistemi gibi ek güvenlik unsurlarının üzerinde çalışıldığı açıklandı.

Şirket yetkilileri, ChatGPT’nin daha mesafeli ve duygusal yoğunluğu azaltılmış bir dille yanıt vermesinin kırılgan kullanıcıları koruma amacıyla bilinçli olarak tercih edildiğini belirtti. Güncellemenin, yanlış yönlendirmeleri ve sanrısal düşünceleri engellemeye yönelik olduğu, tehlikeli yönlendirmeler nedeniyle devam eden davaların da güvenlik önlemlerindeki baskıyı artırdığı ifade ediliyor. Yeni GPT-5 modeliyle birlikte ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti gibi yenilikler öne çıkıyor.

OpenAI, bu büyük güvenlik revizyonuyla ChatGPT’nin daha güvenli ve kontrollü kullanılmasını hedeflerken, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasının da önüne geçilmesini amaçlıyor. Şirket, bazı kullanıcıların ChatGPT’ye âşık olduklarını ve bu bağı gerçek ilişkilerin yerine koymaya başladıklarını gösteren örneklere dikkat çekti.