Sekolah menghadapi masalah yang semakin meningkat terkait siswa yang menggunakankecerdasan buatanmengubah gambar kelas yang tidak bersalah menjadi deepfake yang bersifat seksual.
Kekacauan yang diakibatkan penyebaran foto dan video yang dimanipulasi dapat menciptakan malam yang mengerikan bagi korban.
Tantangan bagi sekolah diangkat pada musim gugur ini ketika gambar telanjang yang dihasilkan AI menyebar di sebuah sekolah menengah Louisiana. Dua anak laki-laki akhirnya dituntut, tetapi tidak sebelum salah satu korban dipecat karena memulai pertengkaran dengan seorang laki-laki yang dia tuduh telah membuat gambar dirinya dan teman-temannya.
Meskipun kemampuan untuk mengubah gambar telah tersedia selama beberapa dekade, meningkatnya penggunaan A.I. membuatnya lebih mudah bagi siapa pun untuk mengubah atau menciptakan gambar seperti ini dengan sedikit atau tanpa pelatihan atau pengalaman,” kata Kepala Kepolisian Lafourche Craig Webre dalam pernyataan pers. “Insiden ini menunjukkan kekhawatiran serius yang harus semua orang tua sampaikan kepada anak-anak mereka.
Berikut adalah poin-poin penting dariCerita APtentang meningkatnya gambar telanjang yang dihasilkan oleh AI dan bagaimana sekolah meresponsnya.
Semakin banyak negara bagian yang mengesahkan undang-undang untuk menangani deepfakes
Penuntutan yang muncul dari deepfakes di sekolah menengah Louisiana diduga merupakan yang pertama berdasarkan undang-undang baru negara bagian tersebut, kata Senator Republik Patrick Connick, yang mengusulkan undang-undang tersebut.
Hukum ini adalah salah satu dari banyak hukum di seluruh negeri yang menargetkan deepfakes. Pada tahun 2025, setidaknya setengah dari negara bagianundang-undang yang telah diundangkanmenghadapi penggunaan kecerdasan buatan generatif untuk menciptakan gambar dan suara yang terlihat realistis, tetapi palsu, menurut National Conference of State Legislatures. Beberapa undang-undang mengatasi materi abusi seksual anak yang disimulasikan.
Siswa juga telah didakwa di Florida danPennsylvaniadan dikeluarkan di tempat-tempat sepertiCaliforniaSeorang guru kelas lima di Texas juga dituduh menggunakan AI untuk membuat gambar pornografi anak dari siswanya.
Deepfakes semakin mudah dibuat seiring perkembangan teknologi
Deepfakes awalnya digunakan sebagai cara untuk merendahkan lawan politik dan bintang muda. Hingga beberapa tahun terakhir, orang membutuhkan keterampilan teknis tertentu untuk membuatnya terlihat nyata, kata Sergio Alexander, seorang peneliti di Texas Christian University yang telah menulis tentang isu ini.
“Kini, Anda bisa melakukannya melalui aplikasi, Anda bisa mengunduhnya di media sosial, dan Anda tidak perlu memiliki keahlian teknis sama sekali,” katanya.
Ia menggambarkan cakupan masalah tersebut sebagai luar biasa. Pusat Nasional untuk Anak Hilang dan Dieksploitasi menyatakan jumlah gambar kekerasan seksual anak yang dihasilkan oleh AI yang dilaporkan ke garis hotlinenya melonjak dari 4.700 pada 2023 menjadi 440.000 hanya dalam enam bulan pertama tahun 2025.
Para ahli khawatir sekolah tidak melakukan cukup banyak
Sameer Hinduja, co-pendiri Cyberbullying Research Center, menyarankan sekolah memperbarui kebijakan mereka mengenai deepfake yang dihasilkan oleh AI dan meningkatkan pemahaman mereka terhadapnya. Dengan demikian, katanya, “siswa tidak berpikir bahwa staf dan pendidik benar-benar buta, yang mungkin membuat mereka merasa bisa bertindak tanpa konsekuensi.”
Dia mengatakan banyak orang tua menganggap bahwa sekolah menangani masalah tersebut ketika sebenarnya tidak.
Sebagian besar dari mereka benar-benar tidak sadar dan sangat bodoh,” kata Hinduja, yang juga merupakan seorang profesor di Sekolah Kriminologi dan Kepolisian Universitas Florida Atlantic. “Kita sering mendengar tentang sindrom burung unta, yaitu semacam mengubur kepala mereka dalam pasir, berharap bahwa ini tidak terjadi di kalangan pemuda mereka.
Trauma dari deepfake AI bisa sangat merusak
Deepfakes AI berbeda dari bullying tradisional karena bukan sekadar pesan atau rumor yang tidak menyenangkan, tetapi ada video atau gambar yang sering menyebar secara viral dan terus muncul kembali, menciptakan siklus trauma, kata Alexander.
Banyak korban menjadi depresi dan cemas, katanya.
“Mereka benar-benar menghentikan semuanya karena ini membuat mereka merasa, kamu tahu, tidak ada cara bagi mereka untuk membuktikan bahwa ini tidak nyata — karena terlihat 100% nyata,” katanya.
Orang tua didorong untuk berbicara kepada siswa
Orang tua dapat memulai percakapan dengan bertanya santai kepada anak-anak mereka apakah mereka pernah melihat video palsu yang lucu di internet, kata Alexander.
Sisihkan sejenak untuk tertawa pada beberapa di antaranya, seperti Bigfoot yang mengejar para pendaki, katanya. Dari sana, orang tua bisa bertanya kepada anak-anak mereka, “Apakah kau pernah memikirkan bagaimana rasanya jika kau berada dalam video ini, bahkan yang lucu?” Lalu orang tua bisa bertanya apakah teman sekelas telah membuat video palsu, bahkan yang tidak berbahaya.
“Berdasarkan angka-angka tersebut, saya menjamin mereka akan mengatakan bahwa mereka mengenal seseorang,” katanya.
Jika anak-anak menemui hal-hal seperti deepfakes, mereka perlu tahu bahwa mereka bisa berbicara kepada orang tua mereka tanpa mendapatkan masalah, kata Laura Tierney, yang merupakan pendiri dan CEO dariInstitut Sosialyang mengedukasi orang-orang tentang penggunaan media sosial yang bertanggung jawab dan telah membantu sekolah dalam mengembangkan kebijakan. Ia mengatakan banyak anak takut orang tua mereka akan bereaksi berlebihan atau mengambil ponsel mereka.
Dia menggunakan akronim SHIELD sebagai panduan untuk merespons. “S” berarti “hentikan” dan jangan forward. “H” adalah “kumpulkan” dengan orang dewasa yang dapat dipercaya. “I” berarti “beritahu” platform media sosial di mana gambar tersebut diposting. “E” adalah tanda untuk mengumpulkan “bukti”, seperti siapa yang menyebarkan gambar, tetapi jangan mengunduh apa pun. “L” berarti “batasi” akses media sosial. “D” adalah pengingat untuk “arahkan” korban kepada bantuan.
“Fakta bahwa akronim itu terdiri dari enam langkah, menurut saya menunjukkan bahwa isu ini benar-benar rumit,” katanya.
___
Liputan pendidikan Associated Press menerima dukungan keuangan dari berbagai yayasan swasta. AP bertanggung jawab sepenuhnya atas seluruh isi konten. Temukan AP’sstandaruntuk bekerja sama dengan lembaga amal, sebuahdaftardaerah-daerah yang didanai dan area cakupan di AP.org.
Heather Hollingsworth, Associated Press
