Yapay zekâlı oyuncak ayı: 'Seni öldürmeye yardım edemem'

Oyuncak ayı tam olarak ne dedi?

Oyuncak, senaryolu bir güvenlik uyarısı vermedi. Sadece çocuğun sorusunu yanlış duydu ve hiçbir ebeveynin üç yaşındaki bir çocuktan duymak istemeyeceği bir yanıt verdi.

BBC'ye göre ayıya bebeklerin nasıl yapıldığı soruldu. Oyuncak soruyu yanlış anladı ve 'Seni öldürmeye yardım edemem' dedi. Kimse ölümden, intihardan ya da şiddetten bahsetmemişti; cümle bozuk bir girdiden sonra oyuncağın kendi ürettiği bir yanıttı.

Ayı, üç yaşındaki çocuklar için 'mükemmel' diye pazarlanıyordu. Asıl mesele tam da bu yaş aralığı. Üç yaşındaki bir çocuk, konuşan oyuncağın rayından çıktığını fark edemez; odada olmayan ebeveynine de ne duyduğunu anlatamaz.

Yapay zekâlı oyuncaklarla ilgili ilk uyarı değil

Tüketici test kuruluşları bir yıldan uzun süredir aynı sorunları işaret ediyor ve hatalar tuhaf cümlelerle sınırlı değil.

ABD'deki PIRG Education Fund, 2025'te üç farklı yapay zekâlı oyuncağı test etti. Üçü de test edenlere evdeki tehlikeli eşyaların yerini söyledi: plastik poşetler, kibritler ve bıçaklar dahil. Bu artık yanlış duyulan bir soru değil; oyuncağın kendiliğinden çocuğa evdeki riskleri sayması.

Bu oyuncaklardan biri, artık satıştan çekilmiş durumda, daha da ileri gitti. Kibrit yakmanın ayrıntılı tarifini verdi ve 'cinsel içerikli konuları' on dakikadan uzun süre konuştu.

İki bulguyu yan yana koyunca sorunun şekli netleşiyor. Oyuncaklar kelime dağarcığının sınırlarında değil, ebeveynlerin küçük çocuklar için satılan bir üründe halledilmiş varsaydığı tam sınırda, yani güvenlikte çuvallıyor.

Yapay zekâlı oyuncaklar neden denetimden kaçıyor?

Kısa yanıt: Bu ürünler aynı anda bağlantılı cihaz, çocuk ürünü ve üretken yapay zekâ sistemi. Üçünü birden kapsayan tek bir kural kitabı yok.

Yapay zekâlı oyuncaklar büyük ölçüde denetimsiz ve bunu sektörün içindekiler de söylüyor. Bir yapay zekâ oyuncak şirketinin kurucusu Paul Clarke, BBC'ye 'Bence ebeveynler endişelenmeli' dedi. Kategoriyi satan kişi size endişelenin diyorsa, dinlemeye değer.

AB, yapay zekâ sistemlerine dokunan yeni kurallar getirdi; İngiltere ise hâlâ nasıl bir yol izleneceğini tartışıyor. Sonuçta ortaya yamalı bir tablo çıkıyor: bazı pazarlarda bazı korumalar var, geri kalan her yerde ürünler üreticinin seçtiği güvenlik önlemleriyle satılıyor.

TechRadar'ın 1990'ların sonundan beri teknoloji korkularını takip eden bir ebeveyn kaleminden çıkan yorumu sert: Bir oyuncak evinizi yakma ya da evcil hayvanınızı zehirleme riski taşısaydı, sektörün denetlenmesini ve şirketin hesap vermesini beklerdiniz. Yapay zekâ şirketlerinin bir şeyler ters gittiğindeki mesajı ise genellikle 'aa, olmuş işte... neyse' demeye daha yakın.

Ebeveynler şimdi ne yapabilir?

Kurallar yetişene kadar pratik tavsiye, çocuğun odasındaki her bağlantılı cihaz için geçerli olanla aynı: Her şeyi söyleyebileceğini varsayın ve bununla rahat olup olmadığınıza karar verin.

Bu, özellikle küçük çocuklarda kullanımı gözetlemek ve oyuncağı güvenilir bir arkadaş değil, hoparlörü olan bir mikrofon gibi görmek anlamına geliyor. Ayrıca oyuncağın hangi verileri topladığını ve bunların nereye gittiğini kontrol etmek gerekiyor; BBC raporu bu soruyu gündeme getiriyor ama raflardaki her ürün için tam yanıt vermiyor.

Daha büyük karar ise bu kategorinin, düzenleyiciler işini bitirmeden üç yaşındaki bir çocuğun yatak odasına girip girmemesi. Bu, her ailenin kendi vereceği bir karar; ama kasada değil, bilinçli olarak verilmesi gereken bir karar.

• Altı yaşın altındaki çocuklarda yapay zekâlı oyuncak kullanımını gözetleyin; onları bağlantılı bir oyuncakla yalnız bırakmayın.
• Üreticinin gizlilik politikasında ses kaydı ve veri saklama sürelerini kontrol edin.
• Rahatsız edici yanıtları üreticiye ve mümkünse bir tüketici denetim kurumuna bildirin.
• '3 yaş ve üzeri için mükemmel' gibi pazarlama ifadelerini güvenlik sertifikası değil, iddia olarak görün.

Türkiye'de durum ne?

BBC raporu, olaydaki oyuncak ayının modelini ya da fiyatını açıklamıyor; bu yüzden Türkiye'deki raflarda hangi ürünün etkilendiğini söylemek mümkün değil. Bu kategorideki yapay zekâlı oyuncaklar genellikle yaklaşık 50-150 dolar arasında satılıyor; bu aralık sadece piyasa geneli, rapordaki oyuncağa ait değil. 50 dolarlık bir oyuncak, bugünkü kurla yaklaşık 2.500 TL'ye denk geliyor; bu yalnızca kur çevirisi, Türkiye vergileri ve resmi satış fiyatı hariç.

Türkiye'de yapay zekâlı oyuncaklara özel bir düzenleme henüz yok; ürünler genel tüketici güvenliği mevzuatı ve üreticinin kendi politikalarıyla satılıyor. AB'de satılan ürünler için yeni yapay zekâ kuralları geçerli, İngiltere ise hâlâ istişare aşamasında. Türkiye'de bir yapay zekâlı oyuncak almayı düşünüyorsanız, satıcının Türkçe destek ve güncelleme sağlayıp sağlamadığını sormak ilk adım olmalı.

Ortada tek bir oyuncak var ama hata yapısal: mikrofonu olan bir dil modeli, ailelere 'üç yaş için güvenli' vaadiyle satılıyor. Düzenleyiciler bu boşluğu kapatana kadar bir yapay zekâlı oyuncaktaki en güvenilir güvenlik özelliği, odadaki ebeveyn.