تم تصميم نظام "اعرف عميلك" (KYC) لمنع المهاجمين البشريين. أما الآن، فالمهاجم هو آلة. هذا هو التحقق المدعوم بالذكاء الاصطناعي.

تخيّل عملية تسجيل دخول مثالية. صورة السيلفي واضحة، والوجه يستجيب عند الطلب. صفحة صورة جواز السفر نظيفة، وكل خانة فيها مكتوبة بشكل صحيح. تم إطلاق التكامل الخاص بها في غضون ساعات قليلة، ولم يُظهر أي خطأ. تتم الموافقة على الحساب في أقل من دقيقة.

لنفترض الآن أنه لم يقم أي شخص بأي من ذلك. تم توليد الوجه، وتم توليد صورة المستند لتتوافق معه. لم يمر الفيديو عبر عدسة كاميرا على الإطلاق: بل تم إدخاله إلى التطبيق بواسطة برنامج يتظاهر بأنه كاميرا. أما التكامل الذي سمح بمروره فقد كتبه برنامج آلي خمن اسمي حقلين واعتبر انتهاء المهلة بمثابة نجاح.

هذا نمط متكرر، وليس حادثة محددة. لكن كل جزء منه موثق، ومعظم أنظمة التحقق صُممت قبل أن يصبح أي من ذلك ممكناً. التحقق المُدمج بالذكاء الاصطناعي هو ما تبنيه عندما يكون هذا المشهد هو الافتراض الأساسي.

ثلاثة أشياء تغيرت في وقت واحد

المهاجم. في نوفمبر 2024، نشرت وحدة مكافحة الجرائم المالية التابعة لوزارة الخزانة الأمريكية تنبيهًا بشأن الوسائط المزيفة بتقنية التزييف العميق (يفتح في علامة تبويب جديدة) ، جاء فيه: "ابتداءً من عام 2023 واستمرارًا في عام 2024، لاحظت شبكة مكافحة الجرائم المالية (FinCEN) زيادة في بلاغات المؤسسات المالية عن أنشطة مشبوهة، تشير إلى الاشتباه في استخدام الوسائط المزيفة بتقنية التزييف العميق في عمليات احتيال". وأضاف التنبيه أنه تم فتح حسابات بهويات يُشتبه في أنها مُولّدة بواسطة الذكاء الاصطناعي. وكان مختبر الابتكار التابع لليوروبول قد أدرج بالفعل "خداع آليات 'اعرف عميلك'" ضمن الاستخدامات الإجرامية لتقنية التزييف العميق في تقريره لعام 2022 (يفتح في علامة تبويب جديدة) .

الأسلوب أهم من الوسيلة الإعلامية. ENISA تُفرّق وكالة الأمن السيبراني التابعة للاتحاد الأوروبي بين هجوم العرض (أي شيء يُرفع أمام الكاميرا) وهجوم الحقن، حيث يتم "حقن قطعة رقمية مباشرة في النظام الفرعي للتعرف على البيانات البيومترية"، وبالتالي، على حد تعبيرها، "يهدف إلى تجاوز PAD تُعدّ عمليات التحقق من الهوية، التي تبحث عن قناع أو شاشة، من بين عمليات التحقق التي تُجرى للتحقق من الهوية. في تقريرها لأفضل الممارسات الصادر في مارس 2024 (يفتح في علامة تبويب جديدة) ، أشارت إلى أن هجمات التزييف العميق وهجمات الحقن كانتا النوعين الأكثر صعوبة في التخفيف من حدة هجمات البيانات البيومترية التي شملها الاستطلاع. ومن بين المؤشرات التحذيرية التي رصدتها شبكة مكافحة الجرائم المالية (FinCEN) ما يُلاحظ في البنوك: "يستخدم أحد العملاء إضافة كاميرا ويب تابعة لجهة خارجية أثناء عملية التحقق المباشر".

المُنشئ. في استطلاع مطوري Stack Overflow لعام 2025 (يفتح في علامة تبويب جديدة) ، أفاد 84% من المشاركين بأنهم يستخدمون أو يخططون لاستخدام أدوات الذكاء الاصطناعي في عملية التطوير، وكان عدد من يشكّون في دقة هذه الأدوات (46%) أكبر من عدد من يثقون بها (33%). هذا الرقم يتعلق باستخدام الأدوات، وليس بكمية التعليمات البرمجية التي يكتبها الجهاز، ولم نجد مصدرًا أساسيًا للرقم الثاني الذي نود تكراره. أصبح أول قارئ لوثائق مزود الخدمة لديك وكيلًا بشكل متزايد، ومؤلف هذا الوكيل لا يثق به ثقة كاملة.

يجري إعادة بناء الوثائق لهذا القارئ. ويطلب اقتراح llms.txt (يفتح في علامة تبويب جديدة) ، الذي نشره جيريمي هوارد لأول مرة في سبتمبر 2024، من المواقع إضافة ملف Markdown باسم llms.txt إلى مواقعها الإلكترونية لتوفير LLM "محتوى سهل الاستخدام". لطالما وصفت مواصفات OpenAPI (يفتح في علامة تبويب جديدة)API بحيث يمكن لكل من البشر والحواسيب فهمه دون الحاجة إلى قراءة شفرة المصدر. يسمح بروتوكول سياق النموذج (يفتح في علامة تبويب جديدة) لعميل الذكاء الاصطناعي باستدعاء أدوات الخادم، ونصّه نفسه صريح بشأن المخاطر: "تمثل الأدوات تنفيذًا عشوائيًا للتعليمات البرمجية، ويجب التعامل معها بحذر شديد".

القرار. كانت نتيجة التحقق تنتهي كـ PDF أمام مسؤول الامتثال. الآن، يتم إرسال الطلب إلى معالج Webhook الذي يمنح أو يحجب الوصول في أجزاء من الثانية. لا يستطيع البرنامج قراءة علامة صح خضراء. يحتاج إلى حالة الطلب، وسبب، وبيان يوضح مدى قوة الأدلة.

ما ينبغي أن يعنيه الذكاء الاصطناعي الأصلي: خمسة اختبارات

هذه بعض الخصائص التي يمكنك التحقق منها.

1. بعض الأدلة لا تعتمد على بث الكاميرا. فإذا قرأ كل فحص وحدات البكسل التي وفرها جهاز مقدم الطلب، فإن حقنة جيدة كافية تتغلب على جميعها معًا. ENISA ويذكر اثنين من وسائل الدفاع عن المستندات باعتبارها الأبرز: عمليات البحث في السجل وقراءة الشريحة، والتي يقول إنها "يمكن أن تقضي على العديد من الهجمات الاصطناعية" (كما يشير إلى أنه لا يُسمح للشركات الخاصة بقراءة الشرائح بشكل متسق في جميع أنحاء الاتحاد الأوروبي).

2. يتم التحقق من صحة ما يدعيه الجهاز مرة أخرى على الخادم. NIST تنص وثيقة SP 800-63A-4 (يفتح في علامة تبويب جديدة) (النهائية، يوليو 2025) على ما يلي: " SHALL تطبيق ضوابط تقنية لزيادة الثقة في أن الوسائط الرقمية تُنتج بواسطة مستشعر حقيقي، ويُذكر من الأمثلة على ذلك اكتشاف كاميرا افتراضية أو برنامج محاكاة أو جهاز مُخترق. إن قرار التحقق من حيوية الصورة، الذي يُجرى على الهاتف فقط، هو مجرد ادعاء وليس نتيجة مؤكدة.

3. تُبيّن النتيجة مدى قوة التحقق، وسبب ذلك. لا ينبغي أن تكون نتيجة التحقق من جواز السفر باستخدام الشريحة الإلكترونية ورخصة القيادة باستخدام الصورة هي نفس الكلمة. وقد تناولنا هذا الموضوع في... KYC مستويات الضمان .

4. يستطيع وكيل البرمجة التكامل دون تخمين. وهذا يعني وجود فهرس يمكنه جلبه، وعقود دقيقة للطلبات والاستجابات، وبيئة اختبار مجانية مع حالة اختبار لكل نتيجة، بحيث يتم إثبات عمل الوكيل من خلال الاختبارات بدلاً من الاعتماد عليه فقط.

5. تحدد القرارات قواعدها وتترك مجالاً للشخص. الأمر نفسه NIST يقول القسم: التحليل الآلي واتخاذ القرارات " SHOULD "يجب تعزيزها بمراجعات يدوية لمعالجة أخطاء الكشف". النظام الذي لا يستطيع إلا أن يقول نعم أو لا، لا مجال فيه للشك.

ما لا يعنيه ذلك

• روبوت محادثة على لوحة التحكم. لا يغير ذلك شيئاً في قدرة الفيديو المزيف على تجاوز هذه المشكلة.

• نموذج يتخذ القرار بمفرده. ليس الهدف هو زيادة الاعتماد على الذكاء الاصطناعي في عملية اتخاذ القرار، بل الهدف هو الحصول على أدلة أفضل وقرار قابل للتفسير.

• نتيجة مبهمة. لا يمكن تبرير عبارة "المخاطر: 0.83" بدون أي أسباب أمام العميل أو المدقق أو الجهة الرقابية.

• يدّعون قدرتهم على كشف جميع عمليات التزييف العميق. لا أحد يستطيع إثبات ذلك. NIST تُجري يوروبول تقييمات مستقلة (يفتح في علامة تبويب جديدة) لبرامج كشف هجمات التزييف تحديدًا لأن الأداء يختلف ويجب قياسه. ويبقى موقف يوروبول قائمًا: "تعتمد متانة أي عملية تحديد هوية على العملية ككل، وليس فقط على خطواتها المرئية".

ما يقوله القانون عن العنصر البشري في العملية

ثلاثة نصوص تستحق القراءة في أصلها، لأنها أضيق مما يتم وصفها عادةً.

• GDPR المادة 22. يحق للشخص "عدم الخضوع لقرار يستند فقط إلى معالجة آلية" ينتج عنه آثار قانونية أو آثار مماثلة ذات أهمية. وفي حال وجود استثناء (عقد أو موافقة صريحة)، يجب على المتحكم أن يمنح "على الأقل الحق في الحصول على تدخل بشري"، والتعبير عن رأيه، والطعن في القرار. المادة 22 (1) و(3) (يفتح في علامة تبويب جديدة) .

• قانون حماية البيانات النيجيري لعام 2023، المادة 37. هيكل مشابه تقريبًا: الحق في عدم الخضوع لقرار "يستند فقط إلى المعالجة الآلية للبيانات الشخصية، بما في ذلك التنميط"، مع ضمانات تشمل الحق في "الحصول على تدخل بشري"، والتعبير عن وجهة نظر، و"الطعن في القرار". المادة 37 (1) و (3) (يفتح في علامة تبويب جديدة) .

• قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي، الملحق III يُصنَّف تحديد الهوية البيومترية عن بُعد ضمن المخاطر العالية ، ولكن يُشير نفس البند إلى أنه لا يشمل التحقق البيومتري "الذي يقتصر غرضه على التأكد من أن شخصًا طبيعيًا معينًا هو الشخص الذي يدّعي أنه هو". الملحق III ، النقطة 1(أ) (يفتح في علامة تبويب جديدة) . في حالة استخدام نظام تحديد الهوية البيومترية عن بُعد، تنص المادة 14(5) (يفتح في علامة تبويب جديدة) على ضرورة تأكيد النتيجة من قِبل شخصين مؤهلين على الأقل قبل اتخاذ أي إجراء بشأنها، وتمنح المادة 86(1) (يفتح في علامة تبويب جديدة) الشخص المتضرر الحق في الحصول على "تفسيرات واضحة ومفهومة" للقرارات المستندة إلى الملحق. III الأنظمة عالية المخاطر.

لذا، يُعامل فحص صورة السيلفي الفردية بشكل مختلف عن فحص وجه مقابل عدة وجوه. أما تحديد أي جانب من جوانب الصورة فهو مسألة تخص محاميك. الأمر طوعي NIST يُلخص إطار إدارة مخاطر الذكاء الاصطناعي (يفتح في علامة تبويب جديدة) (يناير 2023) النسخة العملية في جملة واحدة: يجب "تحديد وتقييم وتوثيق" عمليات الإشراف البشري. وقد اطلعنا على نصوص الاتحاد الأوروبي ونيجيريا والولايات المتحدة فقط، بينما تختلف نصوص الدول الأخرى.

ماذا نفعل بهذا؟

إذا كنت بصدد الشراء، فاسأل عن هذه الأمور في قسم المشتريات، واطلب الإجابة كتابياً.

• أي من عمليات التحقق التي قمت بها ستظل صالحة إذا سيطر المهاجم على بث الكاميرا بالكامل؟

• ما هي نتائج التحقق من الجاهزية التي يتم حسابها على الجهاز، وما هي النتائج التي يتم التحقق منها مرة أخرى على خوادمك؟

• هل توضح لي النتيجة كيف نجح الاختبار، في حقل يمكن لبرنامجي أن يتفرع بناءً عليه؟

• عندما تقوم قاعدة ما بإرسال شخص ما للمراجعة أو رفضه، هل يمكنني معرفة القاعدة التي قامت بتغيير النتيجة بعد ذلك، ومن قام بتغيير النتيجة؟

• ما الذي لا يمكنك اكتشافه؟ لا تثق بالإجابات المختصرة.

إذا كنت تقوم بالبناء. بعد ظهر اليوم، مع Toden يمكنك إعطاء مُوجِّه التكامل (يفتح في علامة تبويب جديدة) لوكيل البرمجة الخاص بك. سيجعل هذا الوكيل يقرأ مستودعك، ويُجري معك مقابلة، وينتظر موافقتك قبل كتابة الكود. ثم اجعله يُثبت العمل: بيئة الاختبار مجانية ولها مُعرِّف اختبار لكل نتيجة. وأخيرًا، اقرأassuranceLevelوreasonCodeبناءً على النتيجة.

إذا كنت تشاهد، فراقب ثلاثة أمور: ما إذا كان سيتم وضع معيار اختبار لكشف هجمات الحقن بنفس مستوى معيار اختبار هجمات التزييف ( ENISA (أشار في عام 2024 إلى أنه لم يتم قبول أي منها عالميًا بعد)، وما إذا كانت قراءة الشرائح ستصبح متاحة قانونيًا للشركات الخاصة في أماكن أكثر، وما إذا كان مقدمو الخدمات سيبدأون في نشر ما يفوتهم.

أين Toden ما هو اليوم، وما سيأتي بعده

هذا هو الوضع الحالي، مع مراعاة القيود المصاحبة له.

• أدلة تتجاوز حدود الكاميرا. يمكن التحقق من الهوية بالاعتماد على قاعدة بيانات حكومية (في نيجيريا، وغانا، وكينيا، وجنوب أفريقيا، وساحل العاج) أو على شريحة جواز السفر، التي يتم التحقق منها على خوادمنا. لا تُعتدّ بالشريحة إلا إذا كان مُوقِّعها مرتبطًا بجهة إصدار موثوقة؛ وإلاّ فإن النتيجة غير حاسمة. تتطلب قراءة الشريحة حزم تطوير البرامج (SDKs) الخاصة بنا للهواتف المحمولة، لأن المتصفحات لا تدعم هذه الميزة. في أي مكان آخر، يعتمد التحقق على الوثيقة نفسها، والنتيجة تؤكد ذلك.assuranceLevelيكونchip،gov_dbأوdocument.

• إعادة التحقق من جانب الخادم. يمكن استخدام الإيماءات، أو تسلسل عشوائي لألوان الشاشة، أو كليهما للتحقق من حيوية الجهاز. في حالة التحقق من الوميض، يُبلغ الهاتف عما رآه، ثم نقوم بقراءة التسجيل بأنفسنا، لونًا تلو الآخر. إذا كانت قراءتنا باهتة جدًا بحيث لا يمكن الحكم عليها، يتم تسجيلها على أنها غير حاسمة ولا تُستخدم ضد الشخص. إذا لم يصل التسجيل أبدًا، يقوم نظام العمل إما بإحالة الحالة إلى شخص مختص أو رفضها. للمزيد، راجع التحقق من حيوية الجهاز من جانب الخادم ، والإيماءات مقابل الوميض .

• إشارات الحقن، وليس دليلًا قاطعًا على الحقن. يبحث نظام ذكاء الجهاز عن الكاميرات الافتراضية، والمحاكيات، والهواتف التي تم عمل روت لها، وفشل سلامة التطبيقات، ويمكن لقاعدة القرار أن تقرأverification.cameraSuspectهذه إشارات تُغذي قواعدك. لا ندّعي القدرة على كشف جميع عمليات التزييف العميق، ولا ننشر أي معدل كشف. يشرح هذا المنشور الهجوم بالتفصيل.

• نتائج تشرح نفسها بنفسها. كل نتيجة تحمل ملخصًا رئيسيًا.status، الcheckStatusأسفلها،reasonحكم واستقرارreasonCodeتُدار قواعد الموافقة والمراجعة والرفض الخاصة بك على شكل رسم بياني للقرارات يسجل المسار الذي سلكته، وstatusHistoryتُدرج القائمة كل تغيير ومن قام به، سواء كان ذلك في سير العمل أو API مفتاح أو مراجع.

• وثائق خاصة بالوكلاء. تنشر الوثائقllms.txtفهرس، كل صفحة بصيغة Markdown، عقدان OpenAPI 3.1، مهارات الوكيل، ووثائق MCP خادم يبحث في المستندات ولا يقوم بأي شيء API المكالمات. يقوم الوكيل بالبناء في بيئة الاختبار؛ يقوم شخص ما بنشر سير العمل والتبديل إلى المفاتيح الحية.

وما لم يوجد بعد. MCP الخادم المسؤول عن معالجة حسابك، سواءً لإنشاء الجلسات أو قراءة النتائج، مُخطط له وغير متاح. MCP يجعل هذا المعيار عملية التفويض اختيارية، وعند استخدامها، يشترط على الخوادم "التحقق من أن رموز الوصول قد صدرت خصيصًا لها" ( قسم التفويض (يفتح في علامة تبويب جديدة) ). يجب أن تستوفي أي أداة قادرة على قراءة بيانات الهوية هذا الشرط وأكثر قبل طرحها في السوق.

ما عدا ذلك، فهو رأينا وليس التزاماً. نعتقد أن عملية التحقق تتجه نحو نتائج تحمل في طياتها أدلةً خاصة بها، ونحو جهات تعمل لصالح العملاء وتحتاج إلى طريقة خاصة بها لتحديد هويتها، ونحو سوق يُحكم فيه على مقدمي الخدمات بناءً على ما يعترفون بعدم قدرتهم على رؤيته. نفضل أن يُقاس أداؤنا على هذا الأساس لا على أي وصف.

لا تُعدّ هذه المعلومات استشارة قانونية لحالتك. ما يجب عليك التحقق منه، ومتى يجب على الشخص مراجعة الطلب، وما يجب عليك إبلاغه لمقدم الطلب، يعتمد على الجهة التنظيمية المختصة وبلدك.

هل تريد رؤيته؟ افتح Toden مساحة العمل (يفتح في علامة تبويب جديدة) ، أو قم بتوجيه وكيلك إلى دليل تكامل الذكاء الاصطناعي (يفتح في علامة تبويب جديدة) .