شبكة الرؤية الاخبارية المصرية:-الجانب المظلم من الذكاء الاصطناعي التوليدي، أثار المخاوف من احتمال إساءة استخدام هذه التكنولوجيا، ودفع لجنة التجارة الفيدرالية الأميركية للتحرك، عبر وضع قواعد جديدة، تهدف إلى منع الذكاء الاصطناعي من انتحال الشخصيات ومعاقبة الجهات التي تقوم بهذا الأمر.
قواعد تردع الذكاء الاصطناعي
وبحسب بلومبرغ، فقد وضعت لجنة التجارة الفيدرالية الأميركية، قاعدة اقتراحات جديدة، ستدخل حيّز التنفيذ قريباً، هدفها المساعدة على حظر عمليات الاحتيال، التي تتم من خلال انتحال الذكاء الاصطناعي، لهوية الحكومة والشركات الأميركية، على أن تطبق هذه الاقتراحات في مرحلة لاحقة، على عمليات انتحال الذكاء الاصطناعي لهوية الأفراد.
كما تسعى اللجنة للحصول على اقتراحات وتعليقات من الجهات المختصة، حول ما إذا كان ينبغي للقواعد الجديدة، أن تعلن أنه من غير القانوني لشركات الذكاء الاصطناعي، أن تقدم سلعاً وخدمات يمكن استخدامها في انتحال الشخصيات والإضرار بالمستهلكين.
وقالت لجنة التجارة الفيدرالية الأميركية، إنها إتخذت هذا الإجراء في ضوء تزايد الشكاوى، من عمليات الاحتيال بانتحال الشخصيات التي تتم عبر برامج مدعومة بالذكاء الاصطناعي، فضلاً عن غضب المستهلكين، من الأضرار التي لحقت بهم جراء هذه العمليات، مشيرة إلى أن القواعد الجديدة من شأنها أن تساعد في ردع الاحتيال وتأمين التعويض للجهات المتضررة.
وكشفت اللجنة أن عمليات الاحتيال بانتحال هوية الحكومة والشركات الأميركية، كلّفت المستهلكين مليارات الدولارات في السنوات الأخيرة، حيث زادت نسبة هذه العمليات بشكل كبير في عام 2023.
ويقول الخبير في التحول الرقمي فريد خليل، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن عدد عمليات انتحال الشخصيات من خلال تقنية التزييف العميق، زاد 10 أضعاف تقريباً في العالم خلال عام 2023، وهذا الأمر يعود لسبب أساسي، يتمثل بتطور الذكاء الاصطناعي بشكل سريع جداً، لافتاً إلى أن الذكاء الاصطناعي يشكّل تكنولوجيا مفتوحة المصدر، وهذا ما يجعلها متاحة لجميع الأشخاص، ومع استثمار وتطوير عدد كبير من الأشخاص لهذه التكنولوجيا، نجد أن البعض منهم أساء استخدامها وهو ما أدى للمشاكل التي تظهر حالياً.
ويلفت خليل إلى أن عمليات انتحال الشخصيات عبر أدوات الذكاء الاصطناعي، التي حدثت في الآونة الأخيرة كانت خطيرة جداً، فمثلاً قام أحد الموظفين بشركة في هونج كونج، بتحويل مبلغ 25 مليون دولار إلى جهات خارجية، بناءً على طلب المدير المالي للشركة، ليتبين له لاحقاً أنه وقع ضحية عملية سرقة محترفة، تم خلالها اللجوء إلى تقنية التزييف العميق، حيث تكمن المفارقة في أن الموظف شعر بالريبة عند تلقيه رسالة بريدية، تطالبه بتحويل هذا المبلغ الكبير، ولكنه بعد أن أجرى مكالمة فيديو مع المدير المالي وموظفين آخرين في الشركة، وتأكد من طلبهم قام بتحويل المبلغ، ليتبين لاحقاً أن المكالمة كانت مزيفة بالصوت والصورة عبر تقنية التزييف العميق.
هل يمكن منع الذكاء الاصطناعي من انتحال الشخصيات؟
وبحسب خليل فإنه من الناحية التقنية، لا يمكن منع الذكاء الاصطناعي من انتحال الشخصيات، فتكنولوجيا التزييف العميق باتت موجودة في السوق، وبالتالي لا يمكن لأحد ضبطها، حيث أن أي شخص في العالم، قادر على الوصول إلى مصدر هذه التكنولوجيا وفعل ما يريده بها، وهذا ما يجعل من موضوع ضبطها أمراً صعباً إن لم يكن مستحيلاً، في حين أن التطور السريع لتكنولوجيا الذكاء الاصطناعي التوليدي، مكّنها من توليد الصوت والفيديو والنصوص، في مجموعة متنوعة من الأساليب المقنعة.
ويرى خليل أن الضوابط والقوانين التي يتم وضعها، لمنع اللجوء إلى أدوات الذكاء الاصطناعي في عمليات انتحال الشخصيات، هدفها ردع القسم الأكبر من الأشخاص، عن استعمال التزييف العميق لأذية الناس، فتجريم هذا الأمر يمكن أن يساعد في ضبط الوضع، لافتاً إلى أن الحكومات في العالم، بدأت تتحرك لضبط هذا الموضوع، بسبب الأذى المجتمعي الذي يسببه، ففي إسبانيا أصيب المجتمع بصدمة، مع انتشار صور مفبركة لفتيات إحدى المدارس عاريات، ليتبين أيضاً أنها نتاج أدوات التزييف العميق.
وشدد خليل على أن انتحال الشخصيات عبر أدوات الذكاء الاصطناعي، بات يطال كل المجتمعات إن كان بالسياسة أو بالفن أو بالاقتصاد أو بالصحة، معتبراً أنه مع التزييف العميق المتطور الذي نراه اليوم، فإنه بات من الصعب على الأفراد اكتشاف التزييف الحاصل، خصوصاً بالنسبة للأشخاص غير المعتادين على هذا الأمر، أو الأشخاص غير القادرين على التمييز بين ما هو صواب أم لا.
سبب وجود الذكاء الاصطناعي
واعتبر خليل أن الذكاء الاصطناعي، موجود لتطوير وتسريع الأعمال وتحسين الإنتاجية، وليس لانتحال الشخصيات، وبالتالي فإن الاقتراح الذي تدرسه لجنة التجارة الفيدرالية الأميركية، بمنع شركات الذكاء الاصطناعي من تقديم سلع وخدمات، يمكن استخدامها في انتحال الشخصيات، وفي حال إقراره لن يؤثر سلباً في عملية تطوير هذه التكنولوجيا، مؤكداً أن تطور الذكاء الاصطناعي، سوف يستمر خصوصاً أن الدول تتسابق فيما بينها، لاستخدام هذه التكنولوجيا في التطور العكسري والاقتصادي، وهذا الموضوع لن تفرض عليه ضوابط.
وختم خليل حديثه لموقع "اقتصاد سكاي نيوز عربية"، بالاشارة إلى أن كل دولة في العالم، لديها قوانينها الخاصة بالنسبة لكيفية التعامل مع التجاوزات التي تحصل في عالم الانترنت، وطالما لا يوجد بعد قوانين موحدة لتجريم المخالفين في مختلف الدول، فهذا يعني أن العالم سيظل يشهد خروقات كبيرة بهذا الموضوع، حيث ستستغل الجهات المخالفة عدم وجود لوائح شاملة وموحدة.