Shadow AI adalah penggunaan alat AI di tempat kerja tanpa sepengetahuan atau persetujuan organisasi. Tata kelola shadow AI adalah seperangkat aturan dan pemeriksaan yang membawa penggunaan itu ke permukaan. Bagi tim pemasaran, kebijakan satu halaman sudah cukup untuk memulai: alat yang disetujui, kelas data, tinjauan manusia, pencatatan, dan jalur insiden.
Poin penting
- Shadow AI adalah perilaku wajar dari orang yang ingin bekerja lebih cepat; kebijakan yang hanya melarang cenderung mendorongnya menjadi tersembunyi.
- Risiko utamanya adalah kebocoran data, klaim yang tidak diperiksa, hak cipta, pergeseran gaya suara merek, dan komitmen yang tidak tercatat.
- Kebijakan yang baik muat dalam satu halaman dan menjawab lima pertanyaan: alat mana, data mana, siapa yang meninjau, apa yang dicatat, dan apa yang dilakukan saat ada yang salah.
- Padukan kebijakan itu dengan daftar alat yang disetujui yang memang cukup baik untuk dipakai.
- Tinjau halaman itu setiap kuartal; alat dan aturan berubah dengan cepat.
Apa itu shadow AI?
Yaitu alat AI, plug-in, ekstensi browser, atau agen apa pun yang dipakai staf untuk bekerja tanpa ditinjau oleh TI, tim hukum, atau pemimpin pemasaran. Seorang copywriter yang menempelkan brief klien ke chatbot gratis adalah contoh klasik. Begitu pula freelancer yang memakai generator gambar yang tidak disebut dalam kontrak.
Penyebabnya biasanya bukan niat buruk. Orang memakai alat yang membantu mereka. Tekanan yang sama mendorong menjamurnya alat AI, yang merupakan masalah biaya sekaligus risiko.
Mengapa shadow AI penting bagi pemasaran?
Pemasaran menangani data pelanggan, rencana yang belum dirilis, materi rahasia klien, dan klaim publik. Masing-masing bisa bermasalah melalui AI yang tidak disetujui.
- Kebocoran data. Data rahasia atau pribadi dimasukkan ke alat yang ketentuannya mengizinkan data itu disimpan atau dipakai untuk pelatihan.
- Klaim palsu. Model mengarang statistik, kutipan, dan harga. Lihat halusinasi AI dalam pemasaran.
- Hak dan pengungkapan. Kepemilikan aset hasil generatif yang tidak jelas, dan pengungkapan yang hilang di tempat aturan mewajibkannya.
- Pergeseran merek. Banyak orang memberi prompt dengan cara berbeda menghasilkan konten yang terdengar seperti bukan siapa-siapa.
- Komitmen tersembunyi. Agen yang membalas pelanggan atau menerbitkan tanpa catatan. Artikel kami tentang shadow ledger membahas hal ini.
Adakah kerangka kerja yang diakui untuk dijadikan dasar?
Ada. National Institute of Standards and Technology (NIST) Amerika Serikat menerbitkan AI Risk Management Framework pada 26 Januari 2023 sebagai sumber daya sukarela. NIST juga merilis Generative AI Profile (NIST-AI-600-1) pada 26 Juli 2024 untuk membantu organisasi mengidentifikasi risiko khusus AI generatif. Kerangka ini ditulis untuk organisasi yang membangun atau menerapkan AI, jadi tim pemasaran sebaiknya meminjam gagasannya, yaitu govern, map, measure, dan manage, bukan mengadopsinya secara utuh. Halaman NIST mencatat bahwa kerangka ini sedang direvisi, jadi periksa versi terkini.
Pimpinan hukum, keamanan, atau perlindungan data Anda mungkin juga perlu menerapkan aturan setempat. Artikel ini bukan nasihat hukum.
Apa isi kebijakan satu halaman itu?
Gunakan enam bagian ini. Buat masing-masing hanya beberapa baris.
- Tujuan dan ruang lingkup. Siapa yang tercakup: karyawan, freelancer, dan agensi yang mengerjakan merek Anda.
- Alat yang disetujui. Daftar bernama, dengan pemilik dan cara mengajukan alat baru. Apa pun di luar daftar memerlukan persetujuan terlebih dahulu.
- Kelas data. Jelaskan apa yang boleh masuk ke alat mana.
- Publik (konten yang diterbitkan): diizinkan di alat yang disetujui.
- Internal (rencana, draf): alat yang disetujui dengan ketentuan bisnis saja.
- Rahasia (data klien, peluncuran yang belum dirilis, kontrak): hanya alat yang disetujui untuk itu.
- Data pribadi (nama pelanggan, email, daftar audiens): tidak boleh masuk ke alat AI kecuali tim privasi sudah menyetujui.
- Tinjauan manusia. Orang tertentu memeriksa fakta, angka, kutipan, klaim, gaya suara merek, dan redaksi hukum sebelum apa pun dirilis. Gunakan daftar periksa QA untuk konten AI kami.
- Pencatatan. Catat alat, tanggal, tujuan, dan peninjau untuk karya terbit yang dibantu AI. Agen yang bertindak sendiri memerlukan jejak audit dan gerbang persetujuan.
- Insiden. Jika data sensitif ditempelkan ke alat yang tidak disetujui, atau klaim palsu sudah tayang: beri tahu kontak yang ditunjuk dalam batas waktu tertentu, jangan hapus bukti, dan jangan khawatir disalahkan karena melapor lebih awal.
Bagaimana membawa penggunaan shadow yang sudah ada ke permukaan?
- Bertanya dahulu. Jalankan survei singkat tanpa menyalahkan: alat AI apa yang Anda pakai, untuk apa?
- Pilah jawabannya menjadi setujui, ganti, dan hentikan.
- Tawarkan opsi yang disetujui dan bagus untuk tiap tugas umum, atau daftar itu akan diabaikan.
- Beri pelatihan singkat. Satu jam tentang kebijakan dan cara memeriksa keluaran AI. Lihat cara melatih pemasar junior dalam memakai AI.
- Tinjau tiap kuartal dan perbarui daftar alat.
FAQ
Apakah shadow AI sama dengan shadow IT?
Ini adalah salah satu bentuknya. Shadow IT adalah perangkat lunak apa pun yang tidak disetujui; shadow AI adalah kasus khusus AI, dengan risiko tambahan dari data yang dipakai untuk pelatihan dan dari konten yang tampak benar padahal tidak.
Haruskah kita melarang alat AI?
Larangan menyeluruh sulit ditegakkan dan biasanya mendorong penggunaan menjadi tersembunyi. Daftar yang disetujui yang jelas, ditambah aturan data, memberi orang jalur aman menuju manfaat yang sama.
Siapa yang sebaiknya memiliki kebijakan AI dalam tim pemasaran?
Pemimpin pemasaran sebaiknya memegangnya sehari-hari, dengan masukan dari tim hukum, keamanan, dan perlindungan data. Tunjuk satu orang agar pertanyaan punya tujuan.
Apakah freelancer dan agensi perlu mengikutinya?
Ya. Masukkan kebijakan ke dalam kontrak atau brief, dan tanyakan kepada mitra alat AI apa yang mereka pakai untuk pekerjaan Anda dan data apa yang mereka masukkan.
Seberapa sering kebijakan sebaiknya diperbarui?
Tinjau setiap kuartal dan setiap kali ada alat, hukum, atau insiden baru yang mengubah gambaran. Halaman yang usang lebih buruk daripada tidak ada karena memberi rasa aman palsu.
Sumber
- NIST, AI Risk Management Framework.
- Postingan SOMIN: The shadow ledger dan AI hallucinations in marketing.
