Shadow AI คือการใช้เครื่องมือ AI ในที่ทำงานโดยที่องค์กรไม่รู้หรือไม่ได้อนุมัติ การกำกับดูแล Shadow AI คือชุดกฎและการตรวจสอบที่นำการใช้งานนั้นออกมาให้เห็น สำหรับทีมการตลาด นโยบายหน้าเดียวก็พอเริ่มต้นได้: เครื่องมือที่อนุมัติ ประเภทข้อมูล การตรวจทานโดยคน การบันทึก และช่องทางแจ้งเหตุ
ประเด็นสำคัญ
- Shadow AI เป็นพฤติกรรมปกติของคนที่อยากทำงานเร็วขึ้น นโยบายที่ห้ามอย่างเดียวมักผลักการใช้งานให้ไปอยู่ในที่ลับ
- ความเสี่ยงหลักคือข้อมูลรั่วไหล ข้อกล่าวอ้างที่ไม่ได้ตรวจสอบ ลิขสิทธิ์ น้ำเสียงแบรนด์ที่เพี้ยน และข้อผูกมัดที่ไม่ได้บันทึก
- นโยบายที่ดีพอดีหนึ่งหน้าและตอบห้าคำถาม: เครื่องมือใด ข้อมูลใด ใครตรวจทาน บันทึกอะไร และต้องทำอย่างไรเมื่อมีปัญหา
- จับคู่นโยบายกับรายการเครื่องมือที่อนุมัติซึ่งดีพอที่จะใช้จริง
- ทบทวนหน้านี้ทุกไตรมาส เครื่องมือและกฎเปลี่ยนเร็ว
Shadow AI คืออะไร
คือเครื่องมือ AI ปลั๊กอิน ส่วนขยายเบราว์เซอร์ หรือเอเจนต์ใด ๆ ที่พนักงานใช้ทำงานโดยไม่ผ่านการตรวจโดย IT ฝ่ายกฎหมาย หรือหัวหน้าการตลาด ตัวอย่างคลาสสิกคือนักเขียนคำโฆษณาวางบรีฟลูกค้าลงในแชทบอตฟรี หรือฟรีแลนซ์ใช้เครื่องมือสร้างภาพที่สัญญาไม่ได้กล่าวถึง
สาเหตุมักไม่ใช่เจตนาไม่ดี คนเลือกเครื่องมือที่ช่วยเขา แรงกดดันเดียวกันนี้ผลักดันการกระจายตัวของเครื่องมือ AI ซึ่งเป็นปัญหาด้านต้นทุนและความเสี่ยงด้วย
ทำไม shadow AI จึงสำคัญสำหรับการตลาด
ฝ่ายการตลาดดูแลข้อมูลลูกค้า แผนที่ยังไม่เปิดเผย ข้อมูลลับของลูกค้า และข้อกล่าวอ้างต่อสาธารณะ ทุกอย่างอาจผิดพลาดได้ผ่าน AI ที่ไม่ได้รับอนุมัติ
- ข้อมูลรั่วไหล ข้อมูลลับหรือข้อมูลส่วนบุคคลถูกป้อนเข้าเครื่องมือที่เงื่อนไขอนุญาตให้เก็บหรือใช้ฝึกโมเดล
- ข้อกล่าวอ้างเท็จ โมเดลแต่งสถิติ คำพูด และราคา ดูAI hallucination ในการตลาด
- สิทธิ์และการเปิดเผย ความเป็นเจ้าของผลงานที่สร้างไม่ชัดเจน และไม่มีการเปิดเผยตามที่กฎกำหนด
- แบรนด์เพี้ยน คนจำนวนมากเขียนพรอมต์ต่างกันจนได้คอนเทนต์ที่ไม่ใช่เสียงของใครเลย
- ข้อผูกมัดที่ซ่อนอยู่ เอเจนต์ที่ตอบลูกค้าหรือเผยแพร่โดยไม่มีบันทึก บทความของเราบัญชีเงากล่าวถึงเรื่องนี้
มีกรอบที่ได้รับการยอมรับให้ต่อยอดหรือไม่
มี สถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐฯ (NIST) เผยแพร่ AI Risk Management Framework เมื่อวันที่ 26 มกราคม 2023 เป็นแหล่งข้อมูลโดยสมัครใจ NIST ยังเผยแพร่ Generative AI Profile (NIST-AI-600-1) เมื่อวันที่ 26 กรกฎาคม 2024 เพื่อช่วยองค์กรระบุความเสี่ยงเฉพาะของ generative AI กรอบนี้เขียนสำหรับองค์กรที่สร้างหรือใช้ AI ทีมการตลาดจึงควรยืมแนวคิด คือ govern, map, measure และ manage ไม่ใช่นำมาใช้ทั้งหมด หน้าของ NIST ระบุว่ากรอบกำลังอยู่ระหว่างปรับปรุง จึงควรตรวจเวอร์ชันปัจจุบัน
ผู้รับผิดชอบด้านกฎหมาย ความปลอดภัย หรือการคุ้มครองข้อมูลของคุณอาจต้องใช้กฎท้องถิ่นด้วย บทความนี้ไม่ใช่คำแนะนำทางกฎหมาย
นโยบายหน้าเดียวควรเขียนอะไร
ใช้หกหัวข้อนี้ เขียนแต่ละหัวข้อไม่กี่บรรทัด
- วัตถุประสงค์และขอบเขต ครอบคลุมใคร: พนักงาน ฟรีแลนซ์ และเอเจนซี่ที่ทำงานให้แบรนด์ของคุณ
- เครื่องมือที่อนุมัติ รายการที่ระบุชื่อ พร้อมเจ้าของและวิธีขอเครื่องมือใหม่ สิ่งที่ไม่อยู่ในรายการต้องได้รับอนุมัติก่อน
- ประเภทข้อมูล ระบุว่าข้อมูลใดใส่เครื่องมือใดได้
- สาธารณะ (คอนเทนต์ที่เผยแพร่แล้ว): ใช้ในเครื่องมือที่อนุมัติได้
- ภายใน (แผน ฉบับร่าง): เครื่องมือที่อนุมัติซึ่งมีเงื่อนไขธุรกิจเท่านั้น
- ลับ (ข้อมูลลูกค้า การเปิดตัวที่ยังไม่เปิดเผย สัญญา): เฉพาะเครื่องมือที่อนุมัติให้ใช้กับข้อมูลประเภทนี้
- ข้อมูลส่วนบุคคล (ชื่อลูกค้า อีเมล รายชื่อกลุ่มเป้าหมาย): ห้ามใส่เครื่องมือ AI เว้นแต่ฝ่ายความเป็นส่วนตัวอนุมัติแล้ว
- การตรวจทานโดยคน บุคคลที่ระบุชื่อตรวจข้อเท็จจริง ตัวเลข คำพูด ข้อกล่าวอ้าง น้ำเสียงแบรนด์ และถ้อยคำทางกฎหมายก่อนเผยแพร่ ใช้เช็กลิสต์ QA สำหรับคอนเทนต์ AIของเรา
- การบันทึก บันทึกเครื่องมือ วันที่ วัตถุประสงค์ และผู้ตรวจทานสำหรับงานที่เผยแพร่ซึ่งใช้ AI ช่วย เอเจนต์ที่ทำงานเองต้องมีร่องรอยการตรวจสอบและขั้นตอนอนุมัติ
- เหตุการณ์ หากวางข้อมูลละเอียดอ่อนลงในเครื่องมือที่ไม่ได้อนุมัติ หรือข้อกล่าวอ้างเท็จถูกเผยแพร่: แจ้งผู้ติดต่อที่ระบุชื่อภายในเวลาที่กำหนด อย่าลบหลักฐาน และไม่ต้องกังวลว่าจะถูกตำหนิหากรายงานเร็ว
นำการใช้ shadow AI ที่มีอยู่ออกมาให้เห็นอย่างไร
- ถามก่อน ทำแบบสำรวจสั้น ๆ แบบไม่กล่าวโทษ: คุณใช้เครื่องมือ AI อะไรบ้าง เพื่ออะไร
- แยกคำตอบเป็นอนุมัติ แทนที่ และเลิกใช้
- เสนอทางเลือกที่อนุมัติแล้วและดีสำหรับแต่ละงานที่พบบ่อย มิฉะนั้นรายการจะถูกเมิน
- อบรมสั้น ๆ หนึ่งชั่วโมงเกี่ยวกับนโยบายและการตรวจผลลัพธ์ของ AI ดูวิธีอบรมนักการตลาดจูเนียร์เรื่อง AI
- ทบทวนทุกไตรมาสและอัปเดตรายการเครื่องมือ
FAQ
Shadow AI เหมือนกับ shadow IT หรือไม่
เป็นรูปแบบหนึ่งของ shadow IT Shadow IT คือซอฟต์แวร์ใด ๆ ที่ไม่ได้รับอนุมัติ ส่วน shadow AI เป็นกรณีเฉพาะของ AI ซึ่งมีความเสี่ยงเพิ่มจากข้อมูลที่ถูกใช้ฝึกโมเดลและคอนเทนต์ที่ดูถูกแต่ไม่ถูก
ควรห้ามเครื่องมือ AI หรือไม่
การห้ามทั้งหมดบังคับใช้ยากและมักผลักการใช้งานไปอยู่ในที่ลับ รายการที่อนุมัติอย่างชัดเจนพร้อมกฎด้านข้อมูลให้ทางที่ปลอดภัยเพื่อประโยชน์เดียวกัน
ใครควรเป็นเจ้าของนโยบาย AI ในทีมการตลาด
หัวหน้าการตลาดควรเป็นเจ้าของในแต่ละวัน โดยรับข้อมูลจากฝ่ายกฎหมาย ความปลอดภัย และการคุ้มครองข้อมูล ระบุชื่อหนึ่งคนเพื่อให้คำถามมีที่ไป
ฟรีแลนซ์และเอเจนซี่ต้องปฏิบัติตามหรือไม่
ต้อง ใส่นโยบายไว้ในสัญญาหรือบรีฟ และถามพันธมิตรว่าใช้เครื่องมือ AI ใดกับงานของคุณและป้อนข้อมูลอะไร
ควรอัปเดตนโยบายบ่อยแค่ไหน
ทบทวนทุกไตรมาส และทุกครั้งที่มีเครื่องมือ กฎหมาย หรือเหตุการณ์ใหม่เปลี่ยนภาพ หน้าที่ล้าสมัยแย่กว่าไม่มี เพราะให้ความอุ่นใจที่ไม่จริง
แหล่งที่มา
- NIST, AI Risk Management Framework
- โพสต์ของ SOMIN: บัญชีเงาและAI hallucination ในการตลาด
