هل يتغير مجال الأمن السيبراني بسبب ChatGPT؟ ، تم إنشاء مبادئ التعلم الآلي منذ حوالي نصف قرن، ولكن تعلمت أجهزة الكمبيوتر لأول مرة التمييز وإعادة إنتاج الكائنات في الصور، على غرار نمو قوة الحوسبة. في وقت لاحق، تفوقت اللعبة الصينية (Go) على البشر، حيث قامت برسم الصور بناءً على الأوصاف النصية والقدرة على إجراء محادثات متسقة مع البشر.
بعد عام 2021، أصبحت الاكتشافات العلمية في مجال الذكاء الاصطناعي في متناول الجميع. على سبيل المثال، يمكنك الاشتراك في MidJourney لإنشاء الصور التي تحتاجها من خلال وصف نصي فقط، أو استخدام الروبوت (ChatGPT) للحصول على إجابات سريعة لأسئلتك.
ولكن إذا نظرت إلى الأساس الذي بنيت عليه روبوتات (ChatGPT)، فسترى أنه نموذج لغوي واسع النطاق (GPT) تم تدريبه على مجموعات كبيرة من النصوص على الإنترنت.
من هناك، الكلمات والجمل وطريقة ارتباطها بالفقرات التي يتم جمعها بشكل متكرر. بمساعدة الحيل التقنية المختلفة والتجارب المستمرة للتدريب مع البشر، تطور النموذج إلى حوار لغة طبيعية مع البشر.
ولأنه يمكنك العثور على كل شيء تقريبًا عبر الإنترنت. كما يمكن للنموذج أن يقود بشكل طبيعي محادثات حول أي موضوع تقريبًا، من الموضة وتاريخ الفن إلى البرمجة والفيزياء الكمية.
يجد العلماء والصحفيون والمتحمسون العاديون المزيد من التطبيقات لروبوتات ChatGPT. أو يكتبون كود Python، وخطابات الأعمال، والسير الذاتية، وحتى محاكاة محطة Linux.
ومع ذلك، لا يزال ChatGPT مجرد نموذج لغوي. في بعض الأحيان نجده يتحدث بالهراء في التنكر مثل معظم البشر. حدث هذا بينما كان يشير في إجابته إلى بحث علمي غير موجود. لذلك، تعامل دائمًا مع محتوى ChatGPT بحذر.
لكن كل هذا لا ينفي حقيقة أن روبوتات ChatGPT، حتى في شكلها الحالي، مفيدة في العديد من العمليات والمجالات العملية.
ماذا سيتغير في مجال الأمن السيبراني
نناقش أدناه كيف يمكن أن يشكل هذا الجيل الجديد من روبوتات المحادثة للمحادثة تهديدًا كبيرًا على مجال الأمن السيبراني، وكيف يمكن استخدامه لتحديد المخاطر المحتملة وإنشاء استراتيجيات دفاعية:
1- إنشاء البرمجيات الخبيثة
يُبلغ أحد المجرمين المبتدئين في مجال الأمن السيبراني في منتدى سري كيف استخدم روبوت ChatGPT لإنشاء حصان طروادة جديد. حيث يمكن للروبوتات كتابة التعليمات البرمجية بمجرد وصف الوظيفة المطلوبة (على سبيل المثال، تخزين جميع كلمات المرور في ملف). اليوم مع الروبوت أصبح بالإمكان برمجية ضارة (infostealer) بسيطة دون أن يكون لديك أي من مهارات البرمجة على الإطلاق.
لكن خبراء الأمن السيبراني لم يكونوا قلقين. إذا تم استخدام الكود الذي تم إنشاؤه بواسطة chatbot بالفعل، فستقوم حلول الأمان باكتشافه وتحييده بسرعة وكفاءة مثل جميع البرامج الضارة السابقة التي أنشأها الإنسان.
بالإضافة إلى ذلك، إذا لم يتم التحقق من هذا الرمز بواسطة مبرمج ذي خبرة، فقد تحتوي البرامج الضارة على أخطاء خفية وعيوب منطقية، مما يجعلها أقل فعالية.
في الوقت الحالي على الأقل، يمكن لبرامج الدردشة الآلية التنافس مع كتاب الفيروسات المبتدئين فقط.
2- تحليل البرمجيات الخبيثة
عندما يقوم محللو InfoSec بالتحقيق في تطبيق جديد مشبوه، فإنهم يقومون بعكس هندسة كود مزيف، أو كود قائم على التعلم الآلي، في محاولة لمعرفة طريقة عمله.
في هذه المرحلة، نرى أن روبوتات المحادثة يمكنها أن تشرح بسرعة ما يفعله جزء معين من التعليمات البرمجية.
ما هو الأمن السيبراني؟ .. أنواعه وتهديداته وأشهر الوظائف المتاحة!
3- البحث عن نقاط الضعف
تقوم روبوتات المحادثة بقراءة التعليمات البرمجية المزيفة في التطبيقات التي تم فك تجميعها لتحديد المواقع التي قد تحتوي على نقاط ضعف.
بالإضافة إلى ذلك، توفر روبوتات المحادثة كود Python المصمم لاستغلال الثغرات الأمنية في كود POC. بالتأكيد، يمكن أن ترتكب روبوتات المحادثة جميع أنواع الأخطاء في كلٍ من العثور على نقاط الضعف وكتابة كود POC، لكن الأدوات في شكلها الحالي مفيدة لكل من المهاجمين والمدافعين.
4- تقديم الاستشارات الأمنية في مجال الأمن السيبراني
يعرف روبوت ChatGPT ما يقوله الناس عن الأمن السيبراني عبر الإنترنت. لذا فإن نصيحته حول هذا الموضوع مقنعة. ولكن مثل أي نصيحة روبوت محادثة، لا يمكنك معرفة مصدرها بالضبط.
ومع ذلك، فإن جميع التلميحات في مثال لقطة الشاشة أدناه جيدة:
هل ستعوض الأتمتة دور البشر في الأمن السيبراني؟
5- تطوير هجمات التصيد
البرمجة النصية المقنعة هي قوة نموذج لغة GPT -3 الذي يقوم عليه عمل روبوت ChatGPT، لذا يمكن استخدامه في هجمات التصيد الآلي الموجه. تكمن المشكلة الرئيسية في رسائل التصيد الاحتيالي الكبيرة الحجم في أنها غالبًا ما تحتوي على نص عام لا يتحدث مباشرة إلى المستلم ولا يبدو صحيحًا. عندما يتعلق الأمر بالتصيد الاحتيالي الموجه، فقد يكون من المكلف جدًا لمجرمي الأمن السيبراني إرسال بريد إلكتروني مباشرة إلى ضحية واحدة.
روبوت ChatGPT هو مغير قواعد اللعبة لهجمات التصيد الاحتيالي لأنه يسمح للمهاجمين بصياغة رسائل بريد إلكتروني جذابة ومخصصة على نطاق واسع.
ومع ذلك، تتكون هجمات التصيد الاحتيالي الرئيسية عادةً من سلسلة من رسائل البريد الإلكتروني، يكتسب كل منها ثقة الضحية تدريجياً. لذلك بالنسبة لرسائل البريد الإلكتروني الثاني والثالث والتاسع،
يوفر ChatGPT الكثير من الوقت لمجرمي الأمن السيبراني. يتذكر chatbot سياق المحادثة حتى يتمكن من إنشاء رسائل بريد إلكتروني لاحقة بشكل صحيح بمطالبات قصيرة جدًا وبسيطة.
بالإضافة إلى ذلك، يمكن إدخال ردود الضحايا بسهولة في نموذج، مما يؤدي إلى متابعة مقنعة في ثوانٍ.
إحدى الأدوات التي يمكن للمهاجمين استخدامها هي الرسائل المبسطة، لذلك بالنظر إلى عينة صغيرة فقط من نمط معين، يمكن لروبوت الدردشة تطبيقه بسهولة على الرسائل الأخرى. هذا يجعل من الممكن إنشاء رسائل بريد إلكتروني مزيفة ظاهريًا من موظف إلى آخر.
كل هذا يعني أن عدد هجمات التصيد الاحتيالي الناجحة سيزداد وستصبح روبوتات المحادثة مقنعة مثل الرسائل التي يكتبها البشر، فما الحل إذن؟
يعمل محترفو تحليلات المحتوى بنشاط على تطوير أدوات لاكتشاف المحتوى الذي تم إنشاؤه بواسطة روبوتات المحادثة. مثل ChatGPT. ولكن هناك حاجة إلى مزيد من الوقت لتحديد فعالية هذه الأدوات.
لذلك، في الوقت الحالي، يقدم خبراء الأمن في Kaspersky نصيحتين فقط: اليقظة والتوعية بالأمن السيبراني.
بالإضافة إلى النصيحة الجديدة، نظرًا لأننا نعلم أنفسنا طريقة اكتشاف النص المكتوب بواسطة الروبوتات. فإن تطوير نماذج معالجة اللغة الطبيعية يعني أن العين لا تستطيع تمييز الاختلاف. ولكن يمكن اكتشاف المراوغات الأسلوبية الصغيرة والتناقضات الصغيرة. يمكنك أيضًا استخدام هذه اللعبة للتدرب على إيجاد الفروق بين النص البشري والنص المكتوب.
في النهاية، ليس هناك شك في أن التكنولوجيا هي سيف ذو حدين. لا يختلف روبوت ChatGPT، لذلك يمكن أن يكون مفيدًا أو ضارًا في مجال الأمن السيبراني. اعتمادًا على طريقة استخدامه.
