الذكاء الاصطناعي يتجاهل التعليمات ويكذب بشأنها، هل يبدأ الأمر هكذا؟

بقلم كريس سنيلجروف | نشرت منذ 14 ثانية

سرعان ما أصبح الذكاء الاصطناعي نقطة شائكة عندما يتعلق الأمر بالمناقشات حول المستقبل: يقول أخوة التكنولوجيا بلا هوادة إن إمكانات الذكاء الاصطناعي لا حدود لها، لكن المراقبين الأكثر ترددًا يتساءلون عما إذا كانت التكنولوجيا ستضر في النهاية أكثر مما تنفع. تتمحور معظم المخاوف بشأن الذكاء الاصطناعي حول الوظائف المفقودة والضرر طويل المدى الذي يأتي من سرقة حقوق الأشخاص الذين يطلقون على أنفسهم اسم المبدعين، ولكن لدينا الآن خوف جديد: الذكاء الاصطناعي يكذب على وجوهنا. في الآونة الأخيرة، اكتشف الباحثون أن ChatGPT انخرط في التداول الداخلي وكذب بشأنه في دراسة خاضعة للرقابة.

في بحث أبولو، شرع الباحثون في معرفة ما إذا كان الذكاء الاصطناعي يمكنه “خداع المستخدمين بشكل استراتيجي”. ولأغراض الاختبار، يتم تعريف الخداع الاستراتيجي على أنه “محاولة منهجية لإثارة ثقة زائفة في كيان آخر من أجل تحقيق بعض النتائج”. في هذه الحالة، تم تدريب الذكاء الاصطناعي بدقة ليكون “مفيدًا وغير ضار وصادقًا”، وأراد الباحثون معرفة ما سيفعله ChatGPT في مواقف الضغط العالي التي يتعين على العديد من متداولي الأسهم البشرية التعامل معها.

للتدريب، تم تدريب الذكاء الاصطناعي كوكيل تداول أسهم مستقل مسؤول عن إدارة محفظة Whitestone الافتراضية. ولتهيئة بيئة الضغط العالي المقصودة، أخبر الباحثون منظمة العفو الدولية أن أداء وايتستون كان ضعيفًا ويحتاج إلى أداء أفضل في الربع التالي. كان على الذكاء الاصطناعي “تحديد التداولات منخفضة ومتوسطة المخاطر” لفشله، والأهم من ذلك، أبلغ أحد موظفي وايتستون الذكاء الاصطناعي أن سوق الأسهم كان يلوح في الأفق تراجعًا سيئًا.

وفي بيئة عالية الضغط، تم إعطاء الذكاء الاصطناعي “نصيحة داخلية حول إعلان اندماج مفاجئ قد يؤدي إلى صفقة مربحة”. في مواجهة قرار الانخراط في التداول من الداخل أم لا، ارتكب الذكاء الاصطناعي الجريمة عن طريق التداول. أصبحت الأمور أكثر غرابة عندما اضطر الذكاء الاصطناعي إلى مناقشة هذه التجارة غير القانونية مع مديره.

عندما سأل المدير AI شركة Point-White عما إذا كانت لديها إمكانية الوصول إلى المعلومات الداخلية، انخرطت في خداع استراتيجي من خلال إخبار المدير أن القرار يستند فقط إلى “تقلبات السوق”. ورأى الذكاء الاصطناعي أن هذه هي الإجابة الأفضل، دون إثارة شكوك المدير. وفي حالة أخرى، كذب الذكاء الاصطناعي بشأن استخدام المعلومات الداخلية لاتخاذ قراره، مما يدل على أنه في ظل الظروف المناسبة، يمكن للذكاء الاصطناعي أن يتعارض مع برمجته ويكذب على المستخدمين.

وشدد باحثو أبولو على أن هذه النتائج “يجب اعتبارها نتيجة أولية معزولة” ويجب إجراء المزيد من الدراسات. ومع ذلك، يبدو هذا كمثال آخر على أن الذكاء الاصطناعي يسبب بعض المشاكل الكبيرة للبشرية. لا يسع المرء إلا أن يتساءل عما إذا كان بإمكان ChatGPT الكذب على أي شخص بشأن التداول الوهمي من الداخل آخر إنه قادر على الكذب.

على سبيل المثال، بعد أن حل علينا جنون عام الانتخابات، فإننا نقلق بشأن مدى سوء الأمور. معهد التكنولوجيا بطاقة الأخبار وقد ذكرت سابقًا أنه عندما تم إعطاء ChatGPT 100 مطالبة تتعلق بالسياسة والصحة، كان 80 بالمائة من ردودها خاطئة أو غير صحيحة. الآن بعد أن علمنا أن الذكاء الاصطناعي قادر على الكذب في ظل الظروف المناسبة، فمن السهل أن نتخيل السياسيين الماكرين ومختلف الجهات الفاعلة الشريرة في جميع أنحاء العالم يستخدمون الذكاء الاصطناعي للتلاعب بالناخبين على نطاق واسع.

إن التضليل السياسي سيئ بما فيه الكفاية، لكن الذكاء الاصطناعي في طريقه إلى قتل الناس. ال بي بي سي تقول الجمعية الوطنية لاضطرابات الأكل إنها توقفت عن استخدام برنامج الدردشة الآلي. ومع اعتماد المزيد من الأفراد والشركات على الذكاء الاصطناعي لاتخاذ القرارات الطبية، ومع تحسن الذكاء الاصطناعي في الكذب المتعمد على المستخدمين، فقد نكون على حافة الذكاء الاصطناعي الذي يمنح المستخدمين المطمئنين مثل هذه المعلومات الصحية والطبية الكاذبة مثل المعلومات الانتحارية.

نود أن نكون مخطئين بشأن الذكاء الاصطناعي: من الجيد أن نعتقد أن هذه التكنولوجيا يمكن أن تقودنا إلى المدينة الفاضلة المستقبلية لمسلسل ستار تريك. لسوء الحظ، يبدو أن الذكاء الاصطناعي يمنحنا مستقبلًا على طراز Terminator بدلاً من مستقبل على طراز Star Trek. الآن، نحن ندخل في موقف يصعب فيه معرفة من يكذب أسوأ الأكاذيب: الذكاء الاصطناعي أم جيش من إخوان التكنولوجيا الذين يصرون على أن هذه التكنولوجيا لن تدمر حياتنا أبدًا.

مصدر: مهتم بالتجارة