Shadow AI ialah penggunaan alat AI di tempat kerja tanpa pengetahuan atau kelulusan organisasi. Tadbir urus shadow AI ialah set peraturan dan semakan yang membawa penggunaan itu ke tempat terbuka. Bagi pasukan pemasaran, dasar satu halaman sudah memadai untuk bermula: alat diluluskan, kelas data, semakan manusia, log dan saluran insiden.
Perkara penting
- Shadow AI ialah tingkah laku biasa daripada orang yang cuba bekerja dengan lebih pantas; dasar yang hanya melarang cenderung menolaknya daripada pandangan.
- Risiko utamanya ialah kebocoran data, dakwaan yang tidak disemak, hak cipta dan penyimpangan suara jenama, serta komitmen yang tidak dilog.
- Dasar yang baik muat pada satu halaman dan menjawab lima soalan: alat mana, data mana, siapa menyemak, apa yang dilog, dan apa yang perlu dilakukan apabila sesuatu tidak kena.
- Padankan dasar itu dengan senarai alat diluluskan yang benar-benar cukup baik untuk digunakan.
- Semak halaman itu setiap suku tahun; alat dan peraturan berubah dengan pantas.
Apakah shadow AI?
Ia ialah mana-mana alat AI, pemalam, sambungan pelayar atau ejen yang digunakan kakitangan untuk kerja tanpa disemak oleh IT, undang-undang atau ketua pemasaran. Penulis iklan yang menampal taklimat klien ke dalam chatbot percuma ialah contoh klasik. Begitu juga pekerja bebas yang menggunakan penjana imej yang tidak disebut dalam kontrak.
Puncanya biasanya bukan niat jahat. Orang menggunakan alat yang membantu mereka. Tekanan yang sama mendorong pertumbuhan alat AI yang tidak terkawal, yang merupakan masalah kos dan juga risiko.
Mengapa shadow AI penting untuk pemasaran?
Pemasaran mengendalikan data pelanggan, rancangan yang belum dikeluarkan, bahan sulit klien dan dakwaan awam. Setiap satu boleh bermasalah melalui AI yang tidak diluluskan.
- Kebocoran data. Data sulit atau peribadi yang dimasukkan ke dalam alat yang syaratnya membenarkan data itu disimpan atau digunakan untuk latihan.
- Dakwaan palsu. Model mereka-reka statistik, petikan dan harga. Lihat halusinasi AI dalam pemasaran.
- Hak dan pendedahan. Pemilikan aset yang dijana tidak jelas, dan pendedahan yang tiada apabila peraturan memerlukannya.
- Penyimpangan jenama. Ramai orang yang membuat gesaan secara berbeza menghasilkan kandungan yang kedengaran seperti tiada sesiapa.
- Komitmen tersembunyi. Ejen yang membalas pelanggan atau menerbitkan tanpa rekod. Rencana kami tentang shadow ledger membincangkan perkara ini.
Adakah terdapat rangka kerja yang diiktiraf untuk dijadikan asas?
Ya. National Institute of Standards and Technology (NIST) Amerika Syarikat menerbitkan AI Risk Management Framework pada 26 Januari 2023 sebagai sumber sukarela. NIST juga mengeluarkan Generative AI Profile (NIST-AI-600-1) pada 26 Julai 2024 untuk membantu organisasi mengenal pasti risiko khusus kepada AI generatif. Rangka kerja ini ditulis untuk organisasi yang membina atau menggunakan AI, jadi pasukan pemasaran patut meminjam gagasannya — tadbir, petakan, ukur dan urus — dan bukannya menggunakannya sepenuhnya. Halaman NIST menyatakan rangka kerja itu sedang disemak semula, jadi semak versi terkini.
Ketua undang-undang, keselamatan atau perlindungan data anda mungkin juga perlu menerapkan peraturan tempatan. Artikel ini bukan nasihat undang-undang.
Apakah yang patut dinyatakan dalam dasar satu halaman?
Gunakan enam bahagian ini. Ringkaskan setiap satu kepada beberapa baris.
- Tujuan dan skop. Siapa yang dilindungi: pekerja, pekerja bebas dan agensi yang bekerja untuk jenama anda.
- Alat diluluskan. Senarai bernama, dengan pemilik dan cara untuk meminta alat baharu. Apa-apa di luar senarai memerlukan kelulusan dahulu.
- Kelas data. Nyatakan apa yang boleh dimasukkan ke dalam alat mana.
- Awam (kandungan yang diterbitkan): dibenarkan dalam alat diluluskan.
- Dalaman (rancangan, draf): alat diluluskan dengan terma perniagaan sahaja.
- Sulit (data klien, pelancaran yang belum dikeluarkan, kontrak): hanya alat yang diluluskan untuknya.
- Data peribadi (nama pelanggan, e-mel, senarai audiens): tidak dalam alat AI melainkan privasi telah meluluskan.
- Semakan manusia. Orang yang dinamakan menyemak fakta, angka, petikan, dakwaan, suara jenama dan perkataan undang-undang sebelum apa-apa diterbitkan. Gunakan senarai semak QA untuk kandungan AI kami.
- Log. Rekod alat, tarikh, tujuan dan penyemak bagi kerja terbitan yang dibantu AI. Ejen yang bertindak sendiri memerlukan jejak audit dan get kelulusan.
- Insiden. Jika data sensitif ditampal ke dalam alat yang tidak diluluskan, atau dakwaan palsu telah disiarkan: beritahu pihak yang dihubungi dalam tempoh yang ditetapkan, jangan padam bukti, dan jangan jangka sebarang kesalahan kerana melapor awal.
Bagaimana membawa penggunaan tersembunyi sedia ada ke tempat terbuka?
- Tanya dahulu. Jalankan tinjauan ringkas tanpa menyalahkan sesiapa: alat AI apa yang anda gunakan, untuk apa?
- Susun jawapan kepada luluskan, gantikan dan hentikan.
- Tawarkan pilihan diluluskan yang baik untuk setiap tugas biasa, atau senarai itu akan diabaikan.
- Latih secara ringkas. Satu jam tentang dasar dan tentang menyemak output AI. Lihat cara melatih pemasar junior tentang AI.
- Semak setiap suku tahun dan kemas kini senarai alat.
FAQ
Adakah shadow AI sama dengan shadow IT?
Ia salah satu bentuknya. Shadow IT ialah mana-mana perisian tanpa kelulusan; shadow AI ialah kes khusus AI, dengan risiko tambahan daripada data yang digunakan untuk latihan dan daripada kandungan yang kelihatan betul tetapi tidak.
Patutkah kita melarang alat AI?
Larangan menyeluruh sukar dikuatkuasakan dan biasanya menolak penggunaan daripada pandangan. Senarai diluluskan yang jelas, bersama peraturan data, memberi orang laluan selamat kepada manfaat yang sama.
Siapa yang patut memiliki dasar AI dalam pasukan pemasaran?
Ketua pemasaran patut memilikinya dari hari ke hari, dengan input daripada pasukan undang-undang, keselamatan dan perlindungan data. Namakan seorang supaya soalan ada destinasi.
Adakah pekerja bebas dan agensi perlu mematuhinya?
Ya. Masukkan dasar itu ke dalam kontrak atau taklimat, dan tanya rakan kongsi alat AI apa yang mereka gunakan untuk kerja anda dan data apa yang mereka masukkan.
Seberapa kerap kita patut mengemas kini dasar?
Semaknya setiap suku tahun dan apabila alat, undang-undang atau insiden baharu mengubah keadaan. Halaman yang lapuk lebih buruk daripada tiada kerana ia memberi keselesaan palsu.
Sumber
- NIST, AI Risk Management Framework.
- Siaran SOMIN: The shadow ledger dan Halusinasi AI dalam pemasaran.
