الذكاء الاصطناعي الخفي (Shadow AI) هو استخدام أدوات الذكاء الاصطناعي في العمل دون علم المؤسسة أو موافقتها. وحوكمته هي مجموعة القواعد والفحوصات التي تُخرج هذا الاستخدام إلى العلن. وبالنسبة إلى فريق تسويق، تكفي سياسة من صفحة واحدة للبدء: أدوات معتمدة، وفئات بيانات، ومراجعة بشرية، وتسجيل، ومسار للحوادث.
أبرز النقاط
- الذكاء الاصطناعي الخفي سلوك طبيعي من أشخاص يحاولون العمل بسرعة أكبر؛ والسياسات القائمة على الحظر وحده تميل إلى دفعه بعيدًا عن الأنظار.
- المخاطر الرئيسية هي تسرب البيانات، والادعاءات غير المدققة، وحقوق الملكية، وانحراف صوت العلامة التجارية، والالتزامات غير المسجَّلة.
- السياسة الجيدة تتسع لصفحة واحدة وتجيب عن خمسة أسئلة: أي الأدوات، وأي البيانات، ومن يراجع، وماذا يُسجَّل، وماذا نفعل عند حدوث خلل.
- اقرن السياسة بقائمة أدوات معتمدة تكون جيدة بما يكفي لاستخدامها فعلًا.
- راجع الصفحة كل ربع سنة؛ فالأدوات والقواعد تتغير بسرعة.
ما هو الذكاء الاصطناعي الخفي؟
هو أي أداة ذكاء اصطناعي أو إضافة أو امتداد متصفح أو وكيل يستخدمه الموظفون في العمل دون أن تراجعه تقنية المعلومات أو الشؤون القانونية أو مسؤول التسويق. والمثال الكلاسيكي كاتب نصوص يلصق إحاطة عميل في روبوت دردشة مجاني. وكذلك مستقل يستخدم مولّد صور لا يذكره العقد.
السبب في الغالب ليس سوء النية. فالناس يعتمدون الأداة التي تساعدهم. والضغط نفسه يقود إلى تشتت أدوات الذكاء الاصطناعي، وهو مشكلة تكلفة بقدر ما هو مشكلة مخاطر.
لماذا يهم الذكاء الاصطناعي الخفي في التسويق؟
يتعامل التسويق مع بيانات العملاء والخطط غير المعلنة والمواد السرية للعملاء والادعاءات العلنية. وقد يسوء كل منها بسبب ذكاء اصطناعي غير معتمد.
- تسرب البيانات. إدخال بيانات سرية أو شخصية في أداة تسمح شروطها بالاحتفاظ بها أو استخدامها في التدريب.
- ادعاءات كاذبة. تختلق النماذج إحصاءات واقتباسات وأسعارًا. راجع هلوسات الذكاء الاصطناعي في التسويق.
- الحقوق والإفصاح. ملكية غير واضحة للمواد المولَّدة، وغياب الإفصاح حيث تتطلبه القواعد.
- انحراف العلامة. كثيرون يكتبون الطلبات بأساليب مختلفة فينتجون محتوى لا يشبه أحدًا.
- التزامات خفية. وكلاء يردّون على العملاء أو ينشرون دون سجل. يتناول ذلك مقالنا عن السجل الخفي.
هل هناك إطار معروف يمكن البناء عليه؟
نعم. نشر المعهد الوطني الأمريكي للمعايير والتقنية (NIST) إطار إدارة مخاطر الذكاء الاصطناعي في 26 يناير 2023 كمورد طوعي. كما أصدر NIST ملفًا خاصًا بالذكاء الاصطناعي التوليدي (NIST-AI-600-1) في 26 يوليو 2024 لمساعدة المؤسسات على تحديد المخاطر الخاصة بالذكاء الاصطناعي التوليدي. والإطار مكتوب للمؤسسات التي تبني الذكاء الاصطناعي أو تنشره، لذا ينبغي لفريق التسويق أن يستعير أفكاره — الحوكمة والتخطيط والقياس والإدارة — بدلًا من اعتماده كاملًا. وتشير صفحة NIST إلى أن الإطار قيد المراجعة، فتحقق من النسخة الحالية.
قد يحتاج مسؤولك القانوني أو الأمني أو مسؤول حماية البيانات أيضًا إلى تطبيق القواعد المحلية. هذه المقالة ليست استشارة قانونية.
ماذا ينبغي أن تقول السياسة من صفحة واحدة؟
استخدم هذه الأقسام الستة. واجعل كل قسم في بضعة أسطر.
- الغرض والنطاق. من تشمل: الموظفون والمستقلون والوكالات التي تعمل على علامتك التجارية.
- الأدوات المعتمدة. قائمة مسماة، لكل أداة مالك وطريقة لطلب أداة جديدة. وأي أداة خارج القائمة تحتاج إلى موافقة أولًا.
- فئات البيانات. حدد ما يجوز إدخاله في أي أداة.
- عامة (المحتوى المنشور): مسموح بها في الأدوات المعتمدة.
- داخلية (الخطط والمسودات): الأدوات المعتمدة ذات الشروط التجارية فقط.
- سرية (بيانات العملاء والإطلاقات غير المعلنة والعقود): فقط الأدوات المعتمدة لذلك.
- بيانات شخصية (أسماء العملاء والبريد الإلكتروني وقوائم الجمهور): لا تدخل في أدوات الذكاء الاصطناعي ما لم يوافق فريق الخصوصية.
- المراجعة البشرية. يتحقق شخص محدد بالاسم من الحقائق والأرقام والاقتباسات والادعاءات وصوت العلامة والصياغة القانونية قبل نشر أي شيء. استخدم قائمة فحص جودة محتوى الذكاء الاصطناعي لدينا.
- التسجيل. سجّل الأداة والتاريخ والغرض والمراجع للأعمال المنشورة بمساعدة الذكاء الاصطناعي. والوكلاء الذين يتصرفون من تلقاء أنفسهم يحتاجون إلى مسار تدقيق وبوابة موافقة.
- الحوادث. إذا لُصقت بيانات حساسة في أداة غير معتمدة، أو نُشر ادعاء كاذب: أبلغ جهة الاتصال المحددة خلال مدة معينة، ولا تحذف الأدلة، ولا تتوقع لومًا على الإبلاغ المبكر.
كيف تُخرج الاستخدام الخفي القائم إلى العلن؟
- اسأل أولًا. أجرِ استبيانًا قصيرًا دون لوم: ما أدوات الذكاء الاصطناعي التي تستخدمها، ولأي غرض؟
- صنّف الإجابات إلى اعتماد واستبدال وإيقاف.
- قدّم خيارًا معتمدًا جيدًا لكل مهمة شائعة، وإلا ستُهمل القائمة.
- درّب بإيجاز. ساعة واحدة عن السياسة وعن فحص مخرجات الذكاء الاصطناعي. راجع كيف تدرّب المسوّقين المبتدئين على الذكاء الاصطناعي.
- راجع كل ربع سنة وحدّث قائمة الأدوات.
FAQ
هل الذكاء الاصطناعي الخفي هو نفسه تقنية المعلومات الخفية؟
هو شكل منها. تقنية المعلومات الخفية هي أي برمجيات غير معتمدة؛ والذكاء الاصطناعي الخفي هو الحالة الخاصة بالذكاء الاصطناعي، مع مخاطر إضافية من استخدام البيانات في التدريب ومن المحتوى الذي يبدو صحيحًا وهو ليس كذلك.
هل ينبغي أن نحظر أدوات الذكاء الاصطناعي؟
الحظر الشامل يصعب تطبيقه وغالبًا ما يدفع الاستخدام بعيدًا عن الأنظار. وقائمة معتمدة واضحة مع قواعد للبيانات تمنح الناس طريقًا آمنًا إلى الفائدة نفسها.
من ينبغي أن يملك سياسة الذكاء الاصطناعي في فريق التسويق؟
ينبغي أن يملكها مسؤول التسويق يوميًا، بمشاركة الشؤون القانونية والأمن وحماية البيانات. سمِّ شخصًا واحدًا ليكون للأسئلة وجهة.
هل يلزم المستقلين والوكالات اتباعها؟
نعم. ضع السياسة في العقود أو الإحاطات، واسأل الشركاء عن أدوات الذكاء الاصطناعي التي يستخدمونها في عملك وعن البيانات التي يدخلونها.
كم مرة ينبغي أن نحدّث السياسة؟
راجعها كل ربع سنة وكلما غيّرت أداة أو قانون أو حادثة جديدة الصورة. الصفحة القديمة أسوأ من عدمها لأنها تمنح طمأنينة زائفة.
المصادر
- NIST، إطار إدارة مخاطر الذكاء الاصطناعي.
- مقالات SOMIN: السجل الخفي وهلوسات الذكاء الاصطناعي في التسويق.
