AI خزنة
أدلة

عشرة أخطاء أمنية يرتكبها الذكاء الاصطناعي في كودك وكيف تكشفها

قائمة مراجعة عملية للتطبيقات المبنية بالذكاء الاصطناعي قبل وصول المستخدمين الحقيقيين

ATAI Khazna Team7 دقيقة قراءة

تطبيقك يعمل. التسجيل يعمل، ولوحة التحكم تفتح، وميزة الذكاء الاصطناعي تجيب. هذه بالضبط هي اللحظة التي ينبغي أن تتمهل فيها. فأدوات البرمجة بالذكاء الاصطناعي بارعة في جعل الأشياء تعمل، لكنها أقل موثوقية في جعلها آمنة. يسلك النموذج أقصر طريق إلى نسخة تجريبية تعمل، وكثيرا ما يتجاوز هذا الطريق الأجزاء المملة التي تمنع الغرباء من قراءة بياناتك أو تضخيم فواتيرك.

والخبر الجيد أن الأخطاء نفسها تتكرر. نعرض هنا عشرة منها، ولكل خطأ: كيف يبدو، وكيف تفحصه، وماذا تطلب من الذكاء الاصطناعي ليصلحه. لا تحتاج إلى أن تكون مهندس أمن لتمر على هذه القائمة، بل تحتاج إلى ساعة من وقتك وصبر على قراءة ما كتبه الذكاء الاصطناعي.

1. مفاتيح سرية في كود الواجهة أو في المستودع

كيف يبدو: مفتاح API لنموذج ذكاء اصطناعي أو لبوابة دفع أو لقاعدة البيانات ملصوق داخل مكون في الواجهة، أو محفوظ في متغير يرسله إطار العمل إلى المتصفح. ففي Next.js تدمج المتغيرات التي تبدأ بالبادئة NEXT_PUBLIC_ في كود JavaScript المرسل إلى المتصفح، ويفعل Vite الشيء نفسه مع البادئة VITE_ ويحذر من وضع مفاتيح API فيها. أما رفع ملف .env إلى Git فهو التسريب ذاته لكن بصورة أبطأ.

كيف تفحصه: ابحث في المشروع عن NEXT_PUBLIC_ وVITE_ وsecret وkey. افتح موقعك المنشور، واستعرض ملفات السكربت المحملة في أدوات المطور بالمتصفح، وابحث فيها عن الكلمات نفسها. وتأكد أن كل ملفات .env مدرجة في .gitignore.

اطلب من الذكاء الاصطناعي: «اذكر كل مفتاح سري يستخدمه هذا التطبيق، وانقل كل مفتاح إلى كود يعمل على الخادم فقط، وأخبرني بالمفاتيح التي يجب أن أستبدلها لأنها انكشفت من قبل».

2. جداول سوبابيز بلا أمان على مستوى الصفوف

كيف يبدو: يتيح سوبابيز للمتصفح أن يستعلم قاعدة البيانات مباشرة باستخدام مفتاح قابل للنشر (تسميه المشاريع الأقدم مفتاح anon). هذا المفتاح علني بطبيعته، وما يحمي بياناتك فعلا هو الأمان على مستوى الصفوف (Row Level Security أو RLS). وتنص وثائق سوبابيز على تفعيله في كل جدول ضمن مخطط مكشوف مثل public، فمن دونه يستطيع أي شخص يحمل المفتاح العلني قراءة الجدول والكتابة فيه. والخطأ المعاكس أسوأ: أن «يعالج» الذكاء الاصطناعي خطأ صلاحيات باستخدام المفتاح السري (اسمه القديم service_role) في المتصفح. وسوبابيز صريح في أن هذا المفتاح يتجاوز كل سياسات RLS، ولا يجوز أن يوضع في متصفح أو تطبيق منشور أو في نظام إدارة الشيفرة.

كيف تفحصه: افتح كل جدول في لوحة تحكم سوبابيز، وتأكد أن RLS مفعل وأن سياساته تطابق ما تريده. وابحث في كود الواجهة عن service_role وsb_secret_. واعلم أن تفعيل RLS دون أي سياسة يجعل المفتاح العلني لا يعيد أي بيانات، فالنتيجة الفارغة بعد التفعيل مباشرة أمر متوقع.

اطلب من الذكاء الاصطناعي: «فعل RLS في كل الجداول، واكتب سياسات تجعل كل مستخدم يقرأ صفوفه ويعدلها فقط. اشرح كل سياسة بلغة بسيطة قبل تطبيقها، ولا تستخدم المفتاح السري خارج كود الخادم أبدا». وتمنح مهارة Supabase Postgres Best Practices وكيلك هذه المعرفة منذ البداية.

3. الثقة بالتحقق الذي يجري في المتصفح

كيف يبدو: السعر أو دور المستخدم أو علامة مثل isAdmin تحدد في المتصفح وترسل إلى الخادم فيصدقها كما هي. إخفاء زر لا يعني منع صلاحية.

كيف تفحصه: من تبويب الشبكة في أدوات المطور، انسخ طلبا وغير فيه السعر أو الدور ثم أعد إرساله. إن قبله الخادم فهو يثق بما يأتيه من المتصفح.

اطلب من الذكاء الاصطناعي: «أعد حساب كل ما له أثر، كالأسعار والأدوار والحدود والملكية، على الخادم، وتعامل مع كل قيمة قادمة من المتصفح على أنها غير موثوقة».

4. مسارات API بلا تحقق من الهوية والصلاحية

كيف يبدو: مسار مثل /api/orders/123 يعيد أي طلب لأي شخص يخمن رقمه. وهنا سؤالان منفصلان: هل المتصل مسجل الدخول؟ وهل هذا السجل يخصه؟ كثيرا ما يجيب الذكاء الاصطناعي عن الأول وينسى الثاني.

كيف تفحصه: سجل الخروج واستدع كل مسار API مباشرة، ثم ادخل بحساب المستخدم الأول واطلب سجلا يخص مستخدما آخر.

اطلب من الذكاء الاصطناعي: «راجع كل مسار API وكل إجراء خادم. يجب أن يتحقق كل منها من الجلسة ومن أن السجل يخص المستخدم الحالي. اعرض قائمة بالمسارات وما يتحقق منه كل مسار».

5. نماذج ونقاط ذكاء اصطناعي بلا حد لعدد الطلبات

كيف يبدو: نموذج التواصل والتسجيل واستعادة كلمة المرور، وقبل كل شيء النقطة التي تستدعي نموذج ذكاء اصطناعي مدفوعا، كلها يمكن أن يستدعيها سكربت آلاف المرات. والنتيجة رسائل مزعجة أو إساءة استخدام أو فاتورة نماذج ضخمة.

كيف تفحصه: اكتب قائمة بكل نقطة ترسل بريدا أو تكلف مالا أو تستدعي نموذجا، واسأل عن كل منها: ما الذي يمنع شخصا واحدا من استدعائها ألف مرة في الدقيقة؟

اطلب من الذكاء الاصطناعي: «أضف حدودا لعدد الطلبات لكل مستخدم ولكل عنوان IP على هذه النقاط، وحماية من البرامج الآلية على النماذج العامة، وسقفا صارما للإنفاق على استدعاءات الذكاء الاصطناعي. استخدم ما توفره منصة الاستضافة لدينا قبل إضافة أي خدمة جديدة».

6. مدخلات بلا تحقق وثغرات الحقن

كيف يبدو: استعلامات SQL تبنى بدمج النصوص مع مدخلات المستخدم، أو نص المستخدم يعرض كـ HTML خام (مثل dangerouslySetInnerHTML في React)، أو رفع ملفات بلا قيود على النوع والحجم، أو نص المستخدم يمرر إلى تعليمات نموذج ذكاء اصطناعي مسموح له بتنفيذ إجراءات.

كيف تفحصه: ابحث عن الاستعلامات المبنية بدمج النصوص وعن innerHTML وdangerouslySetInnerHTML. واكتب في نماذجك علامة اقتباس، ونصا طويلا جدا، ووسم <script>، وراقب ما يحدث.

اطلب من الذكاء الاصطناعي: «تحقق من كل مدخل على الخادم وفق مخطط محدد، واستخدم الاستعلامات ذات المعاملات فقط، وعالج المخرجات قبل عرضها، وقيد الملفات المرفوعة بالنوع والحجم».

7. إعدادات CORS متساهلة أكثر من اللازم

كيف يبدو: Access-Control-Allow-Origin: * على واجهة API تعتمد على ملفات تعريف الارتباط أو الرموز، أو كود يعيد أي مصدر يرسله الطلب كما هو. وتشير وثائق MDN إلى أن الرمز * لا يصلح إلا للطلبات التي لا تحمل بيانات اعتماد، وأحيانا «تعالج» أدوات الذكاء الاصطناعي الخطأ الناتج بإعادة المصدر كما هو، وهذا أسوأ.

كيف تفحصه: ابحث في الكود وفي إعدادات الاستضافة عن Access-Control-Allow-Origin وcors(.

اطلب من الذكاء الاصطناعي: «اقصر CORS على قائمة صريحة بنطاقاتنا، واشرح سبب وجود كل نطاق فيها».

8. كشف تفاصيل الأخطاء

كيف يبدو: يرى المستخدم تتبع الأخطاء البرمجية، أو خطأ قاعدة بيانات يكشف أسماء جداولك، أو الرد الخام لواجهة خارجية.

كيف تفحصه: افتعل الأخطاء عمدا: معرف خاطئ، ونموذج فارغ، وجلسة منتهية. ثم اقرأ ما تعرضه الصفحة وما يظهر في رد الشبكة.

اطلب من الذكاء الاصطناعي: «اعرض للمستخدمين رسائل خطأ قصيرة وعامة، وسجل التفاصيل على الخادم فقط، ولا ترسل تتبع الأخطاء في بيئة الإنتاج أبدا».

9. حزم قديمة أو حزم من اختلاق النموذج

كيف يبدو: يضيف الذكاء الاصطناعي حزمة مهجورة، أو فيها ثغرات معروفة، أو لا وجود لها أصلا. ويسجل المهاجمون الأسماء التي تميل النماذج إلى اختلاقها ويملؤونها بكود خبيث، وهو أسلوب يعرف باسم «slopsquatting». وتثبيت الاسم الخطأ يعني تشغيل كود شخص غريب على جهازك وخادمك.

كيف تفحصه: لكل اعتمادية جديدة، افتح صفحتها في السجل الرسمي وتأكد من الاسم بدقة، ومن وجود مطور حقيقي، ومن نشاط حديث. وشغل npm audit واحتفظ بملف القفل في المستودع.

اطلب من الذكاء الاصطناعي: «قبل إضافة أي حزمة، اشرح سبب الحاجة إليها وضع رابط صفحتها الرسمية. فضل الميزات المدمجة، واذكر الاعتماديات التي يمكننا حذفها».

10. غياب السجلات والنسخ الاحتياطية

كيف يبدو: يقع خلل فلا تجد أي سجل لما حدث، أو يحذف ترحيل خاطئ بيانات ولا تجد ما تستعيده.

كيف تفحصه: هل تستطيع أن تجيب عن سؤال «من فعل ماذا، ومتى» في عمليات الدخول والدفع وإجراءات المشرف؟ وهل تعرف ما تتضمنه خطة قاعدة بياناتك من نسخ احتياطية، وهل جربت الاستعادة فعلا؟

اطلب من الذكاء الاصطناعي: «أضف سجلات على الخادم لعمليات الدخول والدفع وإجراءات المشرف دون تسجيل كلمات المرور أو الرموز أو البيانات الشخصية، واكتب دليلا قصيرا لاستعادة قاعدة البيانات».

تعليمات مراجعة جاهزة للصق

عند الانتهاء من أي ميزة، الصق هذه التعليمات في وكيل البرمجة. تعامل معها على أنها قائمة فحص يمر عليها الوكيل، ثم اقرأ تقريره بعناية.

راجع هذا المشروع أمنيا قبل الإطلاق، ولا تعدل أي كود الآن. 1) اذكر كل مفتاح سري وتأكد أن أيا منها لا يصل إلى المتصفح أو المستودع. 2) تأكد في كل جدول من أن الأمان على مستوى الصفوف مفعل بسياسات تقتصر على المالك. 3) اذكر لكل مسار API وكل إجراء خادم ما يجريه من تحقق من الهوية والملكية. 4) نبه إلى أي قيمة يثق بها الخادم وهي قادمة من المتصفح. 5) نبه إلى النقاط التي لا حد لعدد طلباتها، وخاصة نقاط الذكاء الاصطناعي والبريد. 6) نبه إلى المدخلات غير المتحقق منها والاستعلامات المبنية بدمج النصوص وHTML غير المعالج. 7) اعرض إعدادات CORS. 8) اعرض ما يراه المستخدم عند وقوع خطأ. 9) اذكر الاعتماديات التي فيها ثغرات معروفة أو مصدرها غير واضح. 10) صف السجلات والنسخ الاحتياطية الحالية. رتب النتائج حسب الخطورة، وانتظر موافقتي قبل أي إصلاح.

اجعل الإصلاحات دائمة

لا يكفي أن تصلح المشكلة مرة واحدة، فقد يكتب الذكاء الاصطناعي الخطأ نفسه في الجلسة التالية لأنه لا يتذكر محادثتك السابقة. ضع القواعد حيث يقرؤها في كل مرة: ملف CLAUDE.md في كلود كود، و.cursor/rules أو AGENTS.md في كيرسر. والسطور القصيرة أنجع، مثل «لا تكشف المفاتيح السرية للمتصفح أبدا» و«كل جدول جديد يفعل فيه RLS بسياسات تقتصر على المالك». ويشرح دليلنا عن كتابة ملف القواعد في CLAUDE.md وكيرسر طريقة إعداده.

الخطوة التالية: قبل أن تشارك رابط تطبيقك مع مستخدمين حقيقيين، مر على قائمة الإطلاق في قسم البرمجة بالذكاء الاصطناعي.

الأسئلة الشائعة

هل من الآمن وضع المفتاح القابل للنشر أو مفتاح anon من سوبابيز في الواجهة؟
نعم. صمم سوبابيز المفتاح القابل للنشر (اسمه القديم anon) ليكون علنيا، والأمان على مستوى الصفوف هو ما يحدد ما يصل إليه. أما المفتاح السري (اسمه القديم service_role) فيتجاوز RLS ومكانه كود الخادم فقط.
هل يكفي أن أطلب من الذكاء الاصطناعي أن يجعل تطبيقي آمنا؟
الطلب المبهم يأتي بنتيجة مبهمة. اطلب فحوصا محددة، مثل تفعيل RLS في كل جدول والتحقق من الملكية في كل مسار API، واطلب تقريرا قبل تعديل الكود، ثم تحقق من النتائج بنفسك.
ما المقصود بـ slopsquatting؟
هو أن ينشر المهاجمون حزما بأسماء تميل نماذج الذكاء الاصطناعي إلى اختلاقها. فإذا ثبت حزمة مقترحة دون فحصها فقد تشغل كودا خبيثا. تأكد دائما من الحزمة في صفحتها بالسجل الرسمي قبل تثبيتها.
كم مرة ينبغي أن أجري هذه المراجعة؟
أجرها قبل الإطلاق الأول، ثم بعد كل ميزة تمس تسجيل الدخول أو الدفع أو رفع الملفات أو استدعاءات الذكاء الاصطناعي أو مخطط قاعدة البيانات. ووضع القواعد الأساسية في ملف قواعد المشروع يمنع تكرار معظم الأخطاء.
securityvibe codingsupabasecode reviewlaunch checklist