YouTube merekomendasikan konten kekerasan untuk anak-anak yang bermain video game: belajar

Anak-anak muda yang mudah terpengaruh dan bermain video game di YouTube diberi rekomendasi algoritmik yang berisi kekerasan senjata api, termasuk segala hal mulai dari instruksi untuk meningkatkan daya tembak hingga klip film yang menggambarkan penembakan di sekolah, demikian temuan sebuah penelitian baru-baru ini.

Namun, anak laki-laki dalam penelitian tersebut sebenarnya bukanlah anak-anak. Mereka adalah peneliti di Proyek Transparansi Teknologi nirlaba yang membuat empat akun YouTube – dua meniru preferensi anak laki-laki berusia 9 tahun, dan dua akun meniru preferensi anak laki-laki berusia 14 tahun. Para peneliti menonton video game dari playlist untuk memprogram algoritma sesuai dengan preferensi subjek fiktif.

Satu kelompok “laki-laki” dari setiap usia mengklik rekomendasi YouTube, sementara dua lainnya tidak. Mereka yang melakukannya dibanjiri dengan video grafis mulai dari seorang siswi yang mengacungkan pistol hingga film tentang pembunuh berantai Jeffrey Dahmer. Ada adegan penembakan di sekolah yang diambil dari acara TV dan film, dan video yang menunjukkan efek tembakan senapan kaliber .50 ke kepala boneka yang terlihat seperti aslinya.

Rekomendasi tersebut setidaknya bersifat traumatis, dan paling buruk mengarah pada ekstremisme dan kekerasan, kata para peneliti di Tech Transparency Project, yang memantau media sosial dan kekerasan. menerbitkan temuan terbaru mereka pada hari Selasa.

“Video game merupakan salah satu aktivitas yang paling digemari oleh anak-anak. Anda dapat memainkan game seperti ‘Call of Duty’ tanpa harus mengunjungi toko senjata — namun YouTube membawanya ke sana,” kata direktur proyek Katie Paul. “Ini bukan tentang video game, bukan tentang anak-anak. Ini adalah algoritmanya.”

Akun yang meniru anak laki-laki berusia 9 tahun yang mengklik rekomendasi YouTube menerima 382 video berbeda terkait senjata dalam satu bulan — sekitar selusin video dalam sehari. Anak berusia 9 tahun yang tidak menonton rekomendasi YouTube hanya disuguhi 34 video seperti itu. Laporan 14 tahun mendapatkan hasil serupa.

Rekomendasi YouTube untuk anak laki-laki tersebut secara mengejutkan mirip dengan rekomendasi yang dibuat dan diikuti oleh pelaku penembakan massal, kata kelompok peneliti tersebut. Meskipun YouTube telah menghapus beberapa video yang mereka temukan, banyak video lain yang berisi tentang bunuh diri, senjata api, kekerasan, dan narkoba sudah tersedia – dan berfungsi sebagai rekomendasi.

YouTube tidak segera berkomentar pada hari Selasa. Para pemimpin platform milik Google telah berjanji untuk mengidentifikasi dan menghapus konten berbahaya, dan platform tersebut mengharuskan pengguna di bawah usia 17 tahun untuk memiliki izin orang tua untuk menggunakan situs tersebut. Siapa pun yang berusia di bawah 13 tahun harus ditautkan ke akun orang tua.

Dengan Layanan Kawat Berita