استخدم Gizmodo الذكاء الاصطناعي لكتابة قصة حرب النجوم. كانت مليئة بالأخطاء.

ويتبروك – محرر مشارك في Gizmodo يكتب ويحرر مقالات عن الخيال العلمي – سرعان ما قرأ القصة قائلاً إنه لم يسمعها أو يراها قبل نشرها. في رسالة بريد إلكتروني إلى دان أكرمان ، رئيس تحرير Gizmodo ، أدرج 18 “مخاوف وتصحيحات وتعليقات” حول القصة ، مشيرًا إلى أن بات قد وضع سلسلة Star Wars التلفزيونية “Star Wars: The Clone Wars” بترتيب خاطئ ، لم تدخر وسعا دون قلبه. تتضمن البرامج التلفزيونية مثل “Star Wars: Endor” وفيلم “Star Wars: The Clone Wars” عام 2008 أوصافًا متكررة وعناوين قصصية ، ولا يوجد “إنكار صريح” لكتابتها. بواسطة AI باستثناء سطر “Gizmodo bot”.

أثار المقال سريعًا غضبًا بين الموظفين الذين اشتكوا من أن القصة كانت خلل في نظام الرسائل Slack الداخلي للشركة. كان وبحسب التقارير التي حصلت عليها صحيفة “واشنطن بوست” ، فإنه “أضر بشكل خطير بسمعتنا ومصداقيتنا” ، ولم يظهر “أي احترام” للصحفيين ويجب فصله على الفور. تمت كتابة القصة باستخدام مزيج من Google Bart و ChatGPT بواسطة موظف G / O Media على دراية بالموضوع. (تمتلك G / O Media العديد من مواقع الوسائط الرقمية ، بما في ذلك Gizmodo و Deadspin و The Root و Jezebel و The Onion.)

قال ويتبروك في مقابلة: “لم أضطر أبدًا للتعامل مع عدم الكفاءة الأساسي هذا مع أي زميل عملت معه على الإطلاق”. “إذا كان هذا AI [chatbots] لا يمكنك حتى أن تفعل شيئًا أساسيًا مثل اصطفاف فيلم حرب النجوم ، لا أعتقد أنه يمكنك الوثوق بذلك [report] أي نوع من المعلومات الدقيقة “.

لا يمكن إنكار وجود اضطراب في المنشور التكنولوجي Gizmodo. في 29 يونيو ، استشهد ميريل براون ، مدير التحرير في G / O Media ، بالعمل التحريري للمنظمة كسبب لتبني الذكاء الاصطناعي. نظرًا لأن G / O Media تمتلك العديد من المنصات التي تغطي التكنولوجيا ، فإنها تتحمل “مسؤولية القيام بكل ما في وسعها لبناء مبادرات الذكاء الاصطناعي المتعلقة بتطور التكنولوجيا” ، كما كتب.

قال براون للموظفين: “هذه الميزات لا تغير العمل الذي يقوم به الكتاب والمحررين حاليًا” ، مضيفًا أن الشركة ستطلق تجربة لاختبار “تفكيرنا التحريري والتقني حول استخدام الذكاء الاصطناعي.” وأكد أنه “ستكون هناك أخطاء وسيتم إصلاحها بأسرع ما يمكن”.

يتحدث اختبار Gizmodo المليء بالأخطاء عن نقاش أكبر حول دور الذكاء الاصطناعي في الأخبار. يقول العديد من المراسلين والمحررين إنهم لا يثقون في برامج الدردشة الآلية لإنتاج مقالات جيدة التقارير ومدققة الحقائق بشكل كامل. إنهم يخشون من رغبة قادة الأعمال في دفع التكنولوجيا إلى غرف الأخبار دون حذر كافٍ. وهم يجادلون بأنه عندما تسير الاختبارات بشكل سيئ ، فإنها تدمر معنويات الموظفين وسمعة المنفذ.

يقول خبراء الذكاء الاصطناعي إن العديد من النماذج اللغوية الكبيرة لا تزال بها عيوب تقنية تجعلها مصادر غير موثوقة للمجلات ما لم يشارك البشر بعمق في هذه العملية. وقالوا إن الأخبار التي يتم إنتاجها بشكل مصطنع دون رادع يمكن أن تنشر معلومات مضللة وتبذر الخلاف السياسي وتؤثر بشكل كبير على المؤسسات الإعلامية.

قال نيك دياكوبولوس ، الأستاذ المساعد لدراسات الاتصال وعلوم الكمبيوتر في جامعة نورث وسترن: “مصداقية النظام الإخباري في خطر”. “أعتقد أنه إذا كنت ستطرح محتوى خاطئًا ، فسوف يكلفك ذلك مصداقيتك بمرور الوقت.”

وقال المتحدث باسم G / O Media ، مارك نيسكيس ، إن الشركة ستكون “مقصرة” في عدم تجربة الذكاء الاصطناعي. وقال في بيان: “نعتقد أن تجربة الذكاء الاصطناعي كانت ناجحة”. “نحن لا نخطط لتقليل عدد هيئة التحرير بأي شكل من الأشكال بسبب عمليات الذكاء الاصطناعي.” وأضاف: “نحن لا نحاول الاختباء وراء أي شيء ، نريد تصحيح هذا الأمر. للقيام بذلك علينا قبول التجربة والخطأ.

في رسالة على Slack استعرضتها The Post ، أخبر براون الموظفين الساخطين يوم الخميس أن الشركة “حريصة على جمع الملاحظات وتنفيذها بشكل مدروس.” وقال: “ستكون هناك قصص وأفكار وخطط بيانات رائعة وقوائم بينما نصارع أفضل الطرق لاستخدام التكنولوجيا”. وفقًا للقطات من محادثة Slack ، احتوت الملاحظة على 16 رمزًا تعبيريًا لأسفل ، و 11 رمزًا تعبيريًا لسلة المهملات ، وستة رموز تعبيرية للمهرجين ، واثنين من الرموز التعبيرية للوجه واثنين من الرموز التعبيرية.

تتصارع المؤسسات الإعلامية الإخبارية حول كيفية استخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ، والتي تقوم الآن بصياغة مقالات وقصائد وقصص لا يمكن تمييزها عن المحتوى الذي ينشئه الإنسان. واجهت العديد من المنصات الإعلامية التي حاولت استخدام الذكاء الاصطناعي في جمع الأخبار وكتابتها كوارث بارزة. لا يتم حظر وسائط G / O.

في وقت سابق من هذا الأسبوع ، أعلن لي جولدمان ، نائب مدير التحرير في G / O Media ، للموظفين على Slack أن الشركة بدأت “تجربة محدودة” للقصص التي تم إنشاؤها بواسطة الذكاء الاصطناعي عبر أربعة من منصاتها ، بما في ذلك AV Club و Deadspin و Gizmodo و The . Takeout ، وفقا للتقارير التي اطلعت عليها واشنطن بوست. كتب جولدمان: “قد تجد أخطاء. قد تواجه مشاكل في الأسلوب و / أو الأسلوب”. “أعلم أنك تعارض هذا الأمر الكبير وأن نقاباتك المعنية تزن بالفعل اعتراضات وقضايا أخرى”.

أعاد الموظفون الرسائل النصية بقلق وشك. قال أحد الموظفين: “لا يتضمن أي من توصيفات الوظائف لدينا تحرير أو مراجعة المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي”. قال آخر “إذا أردت مقالاً عن تشكيلة أفلام حرب النجوم .. سألت”. قال أحد العمال: “الذكاء الاصطناعي هو حل يبحث عن مشكلة”. “لدينا كتاب موهوبون يعرفون ما نفعله. لذا فإن ما تفعله بشكل فعال هو إضاعة وقت الجميع.

ظهر عدد من المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على مواقع الشركة ، بما في ذلك قصة حرب النجوم الرأسية io9 من Gizmodo والتي تغطي موضوعات متعلقة بالخيال العلمي. على موقعها الرياضي Deadspin ، كتب برنامج “Deadspin Bot” للذكاء الاصطناعي قصة عن 15 من أكثر الامتيازات الرياضية المحترفة قيمة مع تقييمات محدودة للفرق وفي 6 يوليو تم تصحيحها دون تحديد الخطأ. موقع الطعام الخاص بها ، The Takeout ، كان لديه قصة عن “أشهر سلاسل الوجبات السريعة في الولايات المتحدة من خلال المبيعات” مع سطر “Takeout Pot” ، والذي لم يقدم أي أرقام مبيعات. في 6 يوليو ، أضافت Gizmodo تصحيحًا لقصتها Star Wars قائلة إن “ترتيب الحلقات غير صحيح” وتم تصحيحه.

وأصدر اتحاد جزمودو بيانًا على موقع تويتر يدين القصص. “إنه غير أخلاقي وغير مقبول” كتبوا. “إذا رأيت سطرًا ثانويًا ينتهي بـ ‘bot’ ، فلا تنقر فوقه.” يتم إخبار القراء الذين ينقرون على Gizmodo bot byline ، “يتم إنشاء القصص بمساعدة محرك AI.”

قال دياكوبولوس من جامعة نورث وسترن إن روبوتات المحادثة يمكن أن تنتج مقالات ذات جودة رديئة. وقال إن الروبوتات التي تدربت على البيانات من أماكن مثل ويكيبيديا وريديت للمساعدة في التنبؤ بالكلمة التالية في الجملة ما زالت تواجه مشكلات فنية تجعل الثقة في التقارير والكتابة أمرًا صعبًا.

وقال إن روبوتات المحادثة تكون في بعض الأحيان عرضة لتلفيق الحقائق أو حذف المعلومات أو كتابة لغة مضللة أو إعادة صياغة المحتوى العنصري أو الجنسي أو تلخيص المعلومات بشكل سيء أو اختلاق الاقتباسات بشكل صريح.

وأضاف أن المؤسسات الإخبارية بحاجة إلى أن تكون “على دراية بالتحرير” إذا أرادت استخدام الروبوتات ، لكن لا يمكن أن تعتمد على شخص واحد ، ويجب أن تكون هناك مراجعات متعددة لضمان دقة المحتوى والالتزام به. أسلوب كتابة شركة الإعلام.

ومع ذلك ، قال محللون إخباريون إن مصداقية المؤسسات الإعلامية ليست الوحيدة المعرضة للخطر. بدأت المواقع في استخدام الذكاء الاصطناعي لإنشاء محتوى ملفق ، والتسبب في انتشار المعلومات المضللة وإحداث ارتباك سياسي.

نيوسجارد هي هيئة رقابة على وسائل الإعلام قال هناك ما لا يقل عن 301 موقعًا إخباريًا تم إنشاؤه بواسطة الذكاء الاصطناعي “تعمل بدون إشراف بشري وتنشر مقالات مكتوبة بشكل كبير أو كلي بواسطة الروبوتات” وتشمل 13 لغة ، بما في ذلك الإنجليزية والعربية والصينية والفرنسية. كتب الباحثون أنهم ينتجون محتوى خاطئًا في بعض الأحيان ، مثل خدع موت المشاهير أو الأحداث المزيفة تمامًا.

قال محللو NewsCard إنه يتم تشجيع الشركات على استخدام الذكاء الاصطناعي في إنشاء المحتوى ، لأن شركات تكنولوجيا الإعلانات غالبًا ما تعرض إعلانات رقمية على منصات “بغض النظر عن طبيعة أو جودة” المحتوى ، مما يخلق حافزًا اقتصاديًا لاستخدام روبوتات الذكاء الاصطناعي. أكبر عدد ممكن من المقالات لعرض الإعلانات.

قالت Lauren Leffer ، مراسلة Gizmodo وعضو نقابة الكتاب الأمريكية ، East Union ، إنها محاولة “واضحة جدًا” من قبل G / O Media لتوليد المزيد من عائدات الإعلانات لأن الذكاء الاصطناعي يمكنه إنشاء مقالات بسرعة تؤدي إلى البحث والنقر على حركة المرور. أقل تكلفة بكثير من إنتاج مراسل بشري.

وقال إن هذه المحنة أحبطت معنويات المراسلين والمحررين الذين يشعرون أن مخاوفهم بشأن استراتيجية الذكاء الاصطناعي للشركة لم يسمع بها أحد ولم تقدرها الإدارة. وأضاف أن الصحفيين لا يرتكبون أخطاء في القصص ، ولكن يتم تحفيز المراسل للسيطرة على الأخطاء لأنه يتعين عليهم تحمل مسؤولية ما يكتبونه – وهو أمر لا ينطبق على برامج الدردشة الآلية.

أشار Leffer أيضًا إلى أنه اعتبارًا من بعد ظهر يوم الجمعة ، تلقت قصة Star Wars حوالي 12000 مشاهدة للصفحة على Chartbeat ، وهي أداة تتعقب حركة الأخبار. وقال إن هذا يتضاءل بالمقارنة مع ما يقرب من 300 ألف مشاهدة للصفحة التي أنتجتها قصة كتبها الإنسان في وكالة ناسا خلال الـ 24 ساعة الماضية.

“إذا كنت ترغب في إدارة شركة ، فإن مجهودها الكامل هو النقر على الأشخاص عن طريق الصدفة [content]بعد [AI] قالت: “قد يكون الأمر يستحق وقتك. ولكن إذا كنت ترغب في إدارة شركة إعلامية ، يمكنك الوثوق بفريق التحرير الخاص بك لفهم ما يريده القراء”.