YouTube merekomendasikan konten kekerasan untuk anak-anak yang bermain video game: belajar

Anak laki-laki muda yang mudah dipengaruhi yang bermain video game di YouTube diberi rekomendasi algoritmik yang berisi kekerasan senjata grafis, termasuk segala hal mulai dari instruksi untuk meningkatkan daya tembak hingga klip film yang menggambarkan penembakan di sekolah, sebuah studi baru-baru ini menemukan.

Namun, anak laki-laki dalam penelitian ini sebenarnya bukan anak-anak. Mereka adalah peneliti di Proyek Transparansi Teknologi nirlaba yang menyiapkan empat akun YouTube — dua meniru preferensi anak laki-laki berusia 9 tahun, dan dua dari anak laki-laki berusia 14 tahun. Para peneliti menonton video game dari daftar putar untuk memprogram algoritme sesuai dengan preferensi subjek fiktif.

Satu set “anak laki-laki” dari setiap usia mengklik rekomendasi YouTube, sedangkan dua lainnya tidak. Mereka yang melakukannya dibanjiri dengan video grafis mulai dari seorang siswi yang mengacungkan pistol hingga film tentang pembunuh berantai Jeffrey Dahmer. Ada adegan penembakan di sekolah yang diambil dari acara TV dan film, dan video yang mendemonstrasikan efek senapan kaliber .50 yang ditembakkan ke kepala boneka manusia hidup.

Rekomendasi tersebut setidaknya traumatis, dan paling buruk jalan menuju ekstremisme dan kekerasan, kata para peneliti di Proyek Transparansi Teknologi, yang memantau media sosial dan menerbitkan temuan terbaru mereka pada hari Selasa.

“Video game adalah salah satu kegiatan paling populer untuk anak-anak. Anda dapat memainkan game seperti ‘Call of Duty’ tanpa berakhir di toko senjata, tetapi YouTube membawa mereka ke sana,” kata direktur proyek Katie Paul. “Ini bukan video game, bukan anak-anak. Ini adalah algoritma.”

Akun yang menyamar sebagai anak laki-laki berusia 9 tahun yang mengklik rekomendasi YouTube menerima 382 video berbeda terkait senjata dalam satu bulan – sekitar selusin sehari. Anak berusia 9 tahun yang tidak menonton rekomendasi YouTube hanya disuguhi 34 video seperti itu. Rekening 14 tahun mendapatkan hasil yang serupa.

Rekomendasi YouTube untuk anak laki-laki secara mengejutkan mirip dengan yang dibuat dan diikuti oleh penembak massal, kata kelompok riset tersebut. Meskipun YouTube telah menghapus beberapa video yang mereka temukan, banyak video lain tentang bunuh diri, senjata, kekerasan, dan obat-obatan sudah tersedia — dan berfungsi sebagai rekomendasi.

YouTube tidak segera berkomentar pada hari Selasa. Pemimpin platform milik Google telah berjanji untuk mengidentifikasi dan menghapus konten berbahaya, dan platform tersebut mengharuskan pengguna di bawah usia 17 tahun untuk memiliki izin orang tua untuk menggunakan situs tersebut. Siapa pun yang berusia di bawah 13 tahun harus ditautkan ke akun orang tua.

Dengan Layanan News Wire