ستكون الشركات الكبيرة، مثل مايكروسوفت وجوجل، أول ما ينشر هذه الأنظمة على نطاق واسع. لكن بعض الشركات الناشئة ترى فرصا أيضا. جوش براودر، الذي يدير شركة دو نوت بي "لا تدفع" التي توظف تكنولوجيا الذكاء الاصطناعي للمساعدة القانونية "روبو لويار"، قال "إن (جي بي تي-4) سيكون أداة جديدة قوية لمساعدة المستخدمين على مواجهة الأنظمة الآلية". تعمل شركته بالفعل على تضمينه في تطبيق لإصدار دعاوى قضائية بنقرة واحدة ضد أنظمة الاتصال الآلية المزعجة. ويمكن أيضا استخدام هذه التكنولوجيا للطعن في الفواتير الطبية، أو إلغاء الاشتراكات. قال لي براودر "هدفي هو إعادة القوة إلى الناس".

لكن إلى جانب الاستخدامات الإيجابية للذكاء الاصطناعي التوليدي، هناك عديد من الانتهاكات الأقل وضوحا. البشر عرضة لما يسمى تأثير إليزا، الذي ينسب فيه البشر دون وعي أفكارا وعواطف بشرية بشكل خاطئ إلى نظام الكمبيوتر. يمكن أن تكون هذه طريقة فعالة للتلاعب بالناس، كما تحذر مارجريت ميتشل، الباحثة في شركة هاجينج فيس للذكاء الاصطناعي.

أنظمة التعلم الآلي التي يمكنها توليف الأصوات وإنشاء رسائل بريد إلكتروني زائفة حسب الطلب، أسهمت بالفعل في زيادة عمليات الاحتيال في الولايات المتحدة. في العام الماضي سجلت لجنة التجارة الفيدرالية 36 ألف تقرير عن أشخاص تعرضوا للخداع من قبل مجرمين تظاهروا بأنهم أصدقاء. يمكن استخدامها أيضا لتوليد معلومات مضللة. ربما يكون هذا دافع الجهات التنظيمية الصينية إلى إصدار تعليمات لشركات التكنولوجيا الخاصة بها بعدم تقديم خدمات "تشات جي بي تي"، خوفا من فقدان السيطرة على تدفق المعلومات.

لا يزال هناك كثير من الغموض حول نماذج "أوبن إيه آي". الشركة تعترف بأن "جي بي تي-4" يظهر تحيزات مجتمعية ويحرف الحقائق. لكن الشركة تقول "إنها أمضت ستة أشهر في اختبار إجهاد لـ(جي بي تي-4) من أجل السلامة وأقامت حواجز حماية عن طريق عملية تعرف باسم التعلم المعزز من خلال ردود الفعل البشرية". قال بروكمان في حفل الإطلاق "إنه ليس مثاليا. لكنك أنت لست كذلك".

الخلافات الغاضبة حول تدريب هذه النماذج تبدو أمرا لا مفر منه. كان أحد الباحثين يختبر بشكل دوري تحيز "تشات جي بي تي" من خلال حثه على الإجابة عن أسئلة بشأن التوجه السياسي. في البداية، توجه "تشات جي بي تي" إلى الربع الليبرالي اليساري، لكنه منذ ذلك الحين يتحرك نحو المركز المحايد بعدما تم تعديل النموذج. لكن في منشور على الإنترنت، قال ديفيد روزادو، الباحث في مجال الذكاء الاصطناعي، "إنه سيكون من الصعب القضاء على التحيزات المجتمعية المنتشرة والنقاط العمياء التي تنعكس على الإنترنت"، مشيرا إلى أن "التحيزات السياسية في أنظمة الذكاء الاصطناعي الحديثة لن تختفي".

إيلون ماسك، أحد مؤسسي شركة أوبن إيه آي الذي ترك الشركة لاحقا، انتقد مرارا وتكرارا ما سماه "الذكاء الاصطناعي اليقظ" وهو يستكشف إذا ما كان سيتم إطلاق نموذج أقل تقييدا، وفقا للمعلومات. كتب على تويتر "ما نحتاج إليه هو (جي بي تي) الحقيقة. هذه الخلافات حول التحيز ليست سوى مقدمة لمعارك مقبلة أكبر بكثير".