Jika mereka menerima “deteksi order,” mereka akan menggunakan kecerdasan buatan (AI) untuk mengamati gambar dan pesan teks. Nantinya, perintah itu akan dikeluarkan oleh pengadilan atau otoritas nasional independen.

“Perintah deteksi dibatasi dalam waktu dan menargetkan jenis konten tertentu pada layanan tertentu,” kata Komisi Eropa.

Teknologi deteksi hanya boleh digunakan untuk mendeteksi pelecehan seksual anak. Penyedia platform harus menerapkan teknologi yang tidak mengganggu privasi sesuai dengan keadaan dan membatasi kesalahan.

Ini juga menyatakan, toko aplikasi harus memastikan anak-anak tidak dapat mengunduh aplikasi yang dapat membuat mereka berisiko tinggi terhadap kasus pelecehan.

Namun, usulan tersebut mendapat kritikan di kalangan pakar. “Dokumen ini merupakan hal yang paling menakutkan yang pernah saya lihat. Ini menggambarkan mesin pengawasan massal paling canggih yang pernah dikerahkan di luar China dan Uni Soviet,” kata profesor kriptografi di Johns Hopkins, Matthew Green.

Para ahli memperingatkan pengenalan kekuasaan untuk pemerintah Eropa akan membuatnya tersedia untuk pemerintah lain. “Dengan secara hukum mengamanatkan pembangunan sistem pengawasan ini di Eropa, pemerintah Eropa pada akhirnya akan membuat kemampuan ini tersedia untuk setiap pemerintah,” ujar Green.

Sementara pakar privasi lain mengatakan usulan Komisi Eropa tidak sesuai dengan prinsip enkripsi ujung-ke-ujung dan hak privasi dasar. Analis kebijakan senior di kelompok hak digital Electronic Frontier Foundation, Joe Mullin, mengatakan, usulan tersebut hanya bertujuan untuk membaca dan mengamati pesan pengguna dalam skala besar.

“Jika itu menjadi undang-undang, proposal itu akan menjadi bencana bagi privasi pengguna. Tidak hanya di Uni Eropa (UE) tetapi di seluruh dunia,” ucap dia.