Bebekler ve küçük çocuklar için yapay zekâ videolarının hafife alınan tehlikesi

Giderek daha fazla bebek ve küçük çocuk, içerikleri tamamen yapay zekâ tarafından üretilen YouTube videoları izliyor. Uzmanlar ciddi riskler görüyor ve bu içeriklerin tüketilmesi konusunda uyarıyor. Peki neden? Yapay zekâ [YZ] sayesinde YouTube için video üretmek çocuk oyuncağına dönüşürken, küçük çocuk kitlesi hızla büyüyor. Bu durumun bebekler üzerindeki etkisi ise ebeveynlerde, doktorlarda ve çocuk koruma uzmanlarında ciddi endişeler yarattı. Bunun nedeni, aslında oldukça zararsız görünen sözde “Slop” içerikler. Peki tehlike tam olarak nerede? Ve YouTube bu konuda ne diyor?

Bir “Slop” olarak adlandırılan YZ videosunun bebekler için nasıl en hızlı şekilde üretileceğini YouTuber Monique Hinton, son videolarından birinde gösteriyor. Önce ChatGPT’ye “basit, tekrar eden” çocuk şarkısı sözleri yazdırdı ve bunlara “la la”, “na na” ya da “clap clap” gibi oyunbaz anlamsız kelimeler ekletti. Ardından bu çıktıları başka bir YZ video üreticisine aktardı. Birkaç dakika içinde araç, renkli bir animasyon oluşturdu: gülümseyen çocuklar, hayvanlar ve şekiller bir sahnede zıplayıp dans ediyor — etraflarında kelebekler, balonlar, gökkuşağı girdapları, ışıltılı havai fişekler, yanıp sönen ışıklar, süzülen nota işaretleri ve düşen konfetiyle.

Bu basit teknikle günde yüzlerce dolar kazanılabileceğini söyleyen Hinton’ın kanalı, izleyicilere hayatlarında “özgürlük, zenginlik ve anlam” yaratmalarına yardım etmeyi vaad ediyor. “İşin sadece yüzde beşini sizin yapmanız gerekiyor” diyor, “geri kalanını YZ hallediyor.”

Küçük çocuklarda YouTube kullanımı hızla artıyor

Hinton’ın açıklamalarında iki eğilim bir araya geliyor: Yapay zekâ ile video üretmek giderek kolaylaşıyor — ve YouTube’da küçük çocuk kitlesi olağanüstü hızlı büyüyor. Pew Research Center’ın yeni verilerine göre, YouTube kullanımı son beş yılda iki yaş altı çocuklarda diğer tüm genç yaş gruplarına göre çok daha fazla arttı. ABD’de iki yaş altı çocuğu olan ebeveynlerin yüzde 60’ından fazlası çocuklarının YouTube izlediğini söylüyor — bunların üçte birinden fazlası bunun her gün gerçekleştiğini belirtiyor.

Bir çocuk odaklı sivil toplum kuruluşu olan Fairplay’in bu yılki araştırmasına göre YouTube ve YouTube Kids, başka hiçbir yayın platformu ya da öğrenme uygulamasından daha fazla bebek, küçük çocuk ve okul öncesi çocuğu cezbediyor. Ekran karşısında zaman geçiren bebeklerin yüzde 70’i bu platformları kullanıyor.

YouTube Kids, şirket verilerine göre iki ila on iki yaş arasındaki izleyiciler için öneriliyor ve daha da küçük çocuklara göre tasarlanmıyor ya da pazarlanmıyor. Buna rağmen pek çok bebek ve küçük çocuk YouTube karşısında buluyor kendini — üstelik platformun en küçük tüketiciler arasında artan popülerliği, ana şirket Alphabet’e, henüz yürüyemeyen ya da konuşamayan bir nesli potansiyel ömür boyu kullanıcıya dönüştürme imkânı sağlıyor.

Zararsız eğlence mi yoksa tehlikeli etki mi?

YouTube’un bebekler üzerindeki giderek büyüyen etkisi ebeveynlerde, doktorlarda ve çocuk koruma uzmanlarında endişe yaratıyor. Uzmanlara göre çocuk beyni beş yaşına kadar yüzde 90 oranında geliştiği için, bu dönemde izledikleri şeyler onların dilsel, sosyal ve duygusal gelişimini ve eleştirel düşünme becerilerini etkileyebilir. ABD’nin önde gelen çocuk hekimleri birliği olan American Academy of Pediatrics, iki yaş altındaki çocuklarda medya kullanımının “çok sınırlı” olması gerektiğini söylüyor. Fairplay’de erken çocukluk eğitmeni ve program direktörü Rachel Franz şöyle diyor: “Beyin ilk kez bağlantılar kurarken, gerçek olanla olmayan arasındaki farkı öğreniyorlar. Beyinlerine işlenen şey bir sürü ‘YZ slop’ ise, bu onların dünya anlayışını etkileyecek.”

Ekran süresine yönelik kaygılar yeni değil, ancak “Slop” denen ve sosyal medya için özel üretilen kalitesiz YZ içerikleri hakkındaki kaygılar yeni. “Neredeyse 40 yaşındayım ve bana bile o kadar gerçek görünüyor ki, çocuklarımın neyin gerçek neyin sahte olduğunu bilmemesinden çok korkuyorum” diyor iki ve altı yaşındaki çocuklarıyla birlikte Brooklyn’de yaşayan Stephanie Schneider. “Bu çok korkutucu, çünkü çocuğum hedefli eğitim içerikleri aradığında bile tamamen YZ tarafından üretilmiş bir şeye denk gelebiliyor.”

YouTube ne diyor?

YouTube sözcüsü Nicole Bell, gönderdiği bir e-postada, platformun popülerliğinin ailelerin YouTube Kids gibi uygulamaların yaşa uygun deneyim sunacağına duyduğu güveni yansıttığını ifade ediyor. “Kalitesiz içeriklerin kitlesel üretimi YouTube’da sürdürülebilir bir iş modeli değil çünkü sistemlerimiz ve para kazanma politikalarımız bu tür spam içerikleri cezalandırmak üzere tasarlandı” diyor. Bu yöntemi öneren içerik üreticilerinin “kötü bir tavsiye verdiğini” söyleyen YouTube, bunu uygulayanların da tekrarlayan ya da yapay içerik kurallarını ihlal edebileceğini belirtiyor.

Şirket, içeriklerin nasıl üretildiğinden bağımsız olarak yüksek kaliteli videoları öne çıkarmaya yönelik “kalite prensipleri” bulunduğunu, YouTube Kids’te bunun daha da yüksek bir eşikte olduğunu belirtiyor. Ayrıca tüm YZ içeriklerinin Slop ya da spam olmadığının altı çiziliyor.

Hinton ise ebeveynlerin neden endişeli olduğunu anladığını söylüyor. YZ’nin “kalitesiz içerikleri kitleler halinde üretmek için bir kısayol olarak kullanılmaması gerektiğini” vurguluyor. Ona göre YZ, “daha öğretici görseller, daha doğru kültürel temsil, daha çeşitli karakterler ve daha erişilebilir hikâyeler” üretmeye katkı sağlayabilir. Ancak bunun için içerik üreticilerin, ebeveynlerin ve platformların birlikte sorumluluk alması gerektiğini ifade ediyor.

Eskiden her şey daha mı iyiydi?

Eskiden çocuk programları, en azından teoride içeriklerinden sorumlu olan televizyon yöneticileri tarafından seçiliyordu. YouTube ise dünyanın dört bir yanından gelen videolarla dolu, üstelik bunların çoğu büyük ölçüde anonim. Öne çıkan içerikler büyük ölçüde öneri algoritmasına göre belirleniyor. Büyük sosyal medya platformlarında olduğu gibi YouTube da geçmişte sorunlu içeriklere göz yummakla eleştirildi — hatta YouTube Kids’te bile. Ana platformda da ebeveynler, çocuk videolarında yer alan uygunsuz reklamlardan şikâyet etti. Son ABD başkanlık seçimlerinde, silah kontrolüyle ilgili politik reklamların Walt Disney çizgi filmlerinin yanında göründüğü oldu. Schneider, “Ve sonra çocuğum okullarda silahlarla ilgili sorular soruyor” diyor.

Sonuçta uygun içeriği seçmek ebeveynlerin sorumluluğunda — fakat bu göründüğünden daha zor. YouTube Kids’te ayarlar yapılabiliyor olsa da, aramalarda “Ms. Rachel” veya “Cocomelon” gibi bilinen içeriklerle, kaynağı belirsiz videolar yan yana çıkabiliyor. Her ikisi de oldukça renkli, animasyonlu, benzer başlıklara sahip. Hangisinin incelendiğini, hangisinin YZ tarafından üretildiğini anlamak zor. Bazı sözde eğitim videoları üç ya da dört saat sürüyor — uzmanların küçük çocuklar için önerdiğinden çok daha uzun.

Uzmanlar düşük kaliteli YZ içerikleri konusunda uyarıyor

Çocuk gelişimi uzmanları, YouTube’daki sözde eğitim içeriklerinin düşük kalitesi konusunda uyarıyor. Michigan Üniversitesi Tıp Fakültesi’nde gelişim ve davranış çocuk sağlığı uzmanı olan Jenny Radesky şöyle diyor: “Gördüğümüz model, YouTube videolarının çoğunlukla hikâye anlatımı ya da anlamlı içerik sunmadan dikkati yakalamaya çalışması.” Radesky, Pew araştırmasına da katkı verdi.

“Çocuğunuzun izlediği her şey çok anlamlı ya da derin olmak zorunda değil” diyor. “Ama bazı YouTube içeriklerinin altında ticari bir motivasyon olduğunu ebeveynlerin fark etmesini istiyoruz.”

New York’ta yaşayan Judah Abraham, iki ve beş yaşındaki çocuklarının YouTube ve YouTube Kids’te izlediği aşırı hızlı, aşırı uyarıcı videoların dikkat süreleri ve konsantrasyon kabiliyetlerini nasıl etkilediğinden kaygılı. Ayrıca videoların arkasında kimin olduğunu ve YouTube Kids’te hangi kriterlerin uygulandığını bilmemekten rahatsız. “Standartlara güvenmiyorum” diyor. “YouTube, Google, Alphabet — bir iş yürütüyorlar ve platforma yüklenen içerikleri kontrol etmiyorlar.”

Ama hayat yoğun — ve bazen çocuklarının YouTube’a dalması ona soluk aldırıp, baba olarak başka önemli işlerini yapmasında yardımcı oluyor; örneğin iş veya ev işleri. “Bu alışkanlığın sağlıklı olduğunu düşünmüyorum” diyor. “Bu benim için büyük bir iç çatışma.” | DerVirgül