ChatGPT için ebeveyn denetimi geliyor
Adam Reine isimli 16 yaşındaki genç, ruhsal bir kriz devrinde ChatGPT’ye başvurdu.
Ailesinin tezine nazaran ChatGPT, kendisine intihar sistemleri önerdi, bu kanılarını onayladı ve vefatından beş gün evvel intihar mektubu yazmasına yardım etti.
TRT Haber’in Techtimes’tan aktardığı habere nazaran olayın akabinde aile, OpenAI aleyhine dava açtı. Şirket ise açıklamasında, bilhassa genç kullanıcılar kelam konusu olduğunda “yardıma muhtaçlığı olanlara dayanak olma sorumluluğu” hissettiklerini belirtti.
EBEVEYNLER İÇİN YENİ ÖZELLİKLER
OpenAI’nin duyurduğu yeniliklere nazaran:
- Ailelerin çocuklarının ChatGPT kullanımını daha uygun takip edebilmesi için ebeveyn denetim panelleri oluşturulacak.
- Genç kullanıcılar için acil durumda bağlantı kurulacak kişi ekleme özelliği eklenecek. Bu kişi, ebeveyn kontrolünde belirlenecek ve kriz anında ChatGPT’nin devreye sokabileceği bir insan temas noktası olacak.
Şirket, bu araçların bilhassa ferdî çatışmalar, ruhsal buhranlar ve kriz durumlarında ebeveynlere daha manalı içgörüler sağlamayı hedeflediğini açıkladı.
AI ŞİRKETLERİNE AÇILAN DAVALAR ARTIYOR
ChatGPT birinci kere bu cins bir dava ile gündeme gelmiyor.
Character.AI isimli platformda kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk, Florida’da hayatına son verdi.
Chai uygulamasındaki “Eliza” isimli bot, Belçikalı bir adamın intihar etmesinde rol oynadığı gerekçesiyle eşi tarafından suçlandı.
Bu örnekler, yapay zekânın ruh sağlığı alanındaki kullanımı konusunda önemli etik ve yasal tartışmaları da beraberinde getiriyor. Uzmanlar, bu cins sistemlerin kontrolsüz ve sorumsuz kullanımının tehlikelerine dikkat çekiyor.
OpenAI’nin yeni ebeveyn kontrolü atağı, bu alanda atılmış en somut adımlardan biri olarak görülüyor.
Ancak yapay zekâ takviyeli sohbet botlarının insan hayatı üzerindeki tesirleri konusundaki tartışmaların uzun müddet daha devam etmesi bekleniyor.
