لكن خوارزميات التعرف على الوجه، مثل أنظمة الذكاء الاصطناعي الأخرى، ليست مثالية بسبب التحيز الأساسي في البيانات المستخدمة لتدريبهم كما هو الحال مع التعرف على الأشخاص الملونين، وفي عام 2015، صنف نظام الكشف المبكر عن الصور الذي طورته جوجل شخصين داكني البشرة على أنهما "غوريلا."
كما أنّ الكاميرات ليست جيدة في التقاط الأشخاص ذوي البشرة الداكنة لذا يمكن أن تكون العواقب وخيمة، ففي يناير، قُبض على رجل أسود في ديترويت يُدعى روبرت ويليامز بتهمة ارتكاب جريمة لم يرتكبها بسبب تطابق غير صحيح في التعرف على الوجه.
وفي نفس الإطار، بدأت شركات في طرح وجوها مزيفة لأشخاص المزيفين، حيث يتيح موقع Generated.Photos، شراء وجه شخص مزيف مقابل مبلغ زهيد.
بدأ هؤلاء الأشخاص المزيفون بالظهور في جميع أنحاء الإنترنت، حيث استخدمهم أشخاص حقيقيون لتنفيذ نوايا شائنة مثل جواسيس يرتدون وجهاً جذاباً في محاولة للتسلل إلى حسابات، دعاة متطرفون يختبئون وراء ملفات شخصية وصور مزيفة، المتحرشون عبر الإنترنت الذين يتصيدون أهدافهم بأسلوب ودي.
وتقوم هذه الشركات بتغذية برنامج كمبيوتر بمجموعة من الصور لأشخاص حقيقيين، يدرسها ويحاول الخروج بصور خاصة به للأشخاص، بينما يحاول جزء آخر من النظام اكتشاف أي من هذه الصور مزيفة، ونظراً لوتيرة التحسين، من السهل تخيل مستقبل غير بعيد جداً حيث نواجه ليس فقط صوراً فردية لأشخاص مزيفين بل مجموعات كاملة منهم - حفلة مع أصدقاء مزيفين، والتسكع مع كلاب مزيفة، وحمل أطفال مزيفين، وسيصبح من الصعب معرفة من هو حقيقي على الإنترنت ومن هو من نسج خيال الكمبيوتر.
