ملخص: قام الباحثون بتحسين قدرات الشبكات العصبية على إصدار تعميمات نحوية، على غرار الطريقة التي يفهم بها البشر المفاهيم الجديدة ويتناولونها.
تتحدى هذه التقنية الجديدة، المسماة “التعلم التلوي من أجل التركيب” (MLC)، الشكوك السائدة منذ عقود حول قدرة الشبكات العصبية الاصطناعية. تقوم MLC بتدريب الشبكة من خلال التعلم العرضي لتحسين قدرات التعميم الخاصة بها.
ومن الجدير بالذكر، في مجموعة متنوعة من المهام، أن MLC يضاهي الأداء البشري أو يتجاوزه.
مفتاح الحقائق:
- تركز تقنية MLC على التدريب العرضي للشبكات العصبية، مما يسمح لها بتعميم المفاهيم الجديدة بشكل أفضل.
- في المهام التي تتضمن مجموعات كلمات جديدة، كان أداء MLC على قدم المساواة مع المشاركين من البشر أو تفوق عليهم.
- على الرغم من التقدم الذي أحرزته، تواجه النماذج الشائعة مثل ChatGPT وGPT-4 تحديات مع هذا النوع من التعميم المركب، ولكن قد يكون MLC حلاً لتحسين قدراتها.
مصدر: جامعة نيويورك
يتمتع البشر بالقدرة على تعلم مفهوم جديد ثم استخدامه على الفور لفهم التطبيقات ذات الصلة بهذا المفهوم – بمجرد أن يعرف الأطفال كيفية “التخطي”، يفهمون ما يعنيه “التخطي مرتين حول الغرفة” أو “التخطي بيديك”. “. فوق.”
لكن هل الآلات قادرة على هذا النوع من التفكير؟ في أواخر الثمانينيات، جادل الفلاسفة وعلماء الإدراك جيري فودور وزينون بيليشين بأن الشبكات العصبية الاصطناعية – الآلات التي تدعم الذكاء الاصطناعي والتعلم الآلي – لم تكن قادرة على إجراء هذه الروابط، والتي تسمى “التعميمات المركبة”.
ومع ذلك، على مر العقود، عمل العلماء على تطوير طرق لتطوير هذه القدرة في الشبكات العصبية والتقنيات ذات الصلة، ولكن بنجاح متباين، مما أدى إلى إبقاء هذا الجدل الذي دام عقدًا من الزمن حيًا.
وقد طور باحثون من جامعة نيويورك وجامعة بومبيو فابرا الإسبانية تقنية – حسبما ورد في المجلة طبيعة– يؤدي ذلك إلى تحسين إمكانية تعميم هذه الأدوات مثل ChatGPT.
هذه التقنية، التعلم التلوي من أجل التركيب (MLC)، تتفوق في الأداء على الأساليب الحالية وتساوي، وفي بعض الحالات، أفضل من الأداء البشري.
تركز MLC على تدريب الشبكات العصبية – المحركات التي تشغل ChatGPT والتقنيات ذات الصلة للتعرف على الكلام ومعالجة اللغة الطبيعية – للتفوق في تعميم المجموعة من خلال التدريب.
يعتقد مطورو الأنظمة الحالية، بما في ذلك نماذج اللغة الكبيرة، أن التعميم النحوي سينشأ من أساليب التدريب القياسية، أو قاموا بتطوير أطر ذات غرض خاص لتحقيق هذه القدرات. في المقابل، يُظهر MLC كيف أن ممارسة هذه المهارات بشكل علني يسمح لهذه الأنظمة بإطلاق العنان لقوى جديدة، كما لاحظ المؤلفون.
يقول بريندان ليك، الأستاذ المساعد في قسم علوم البيانات وعلم النفس بجامعة نيويورك: “على مدى 35 عامًا، ناقش الباحثون في العلوم المعرفية والذكاء الاصطناعي واللغويات والفلسفة ما إذا كانت الشبكات العصبية يمكنها تحقيق تعميم منهجي يشبه الإنسان”. أحد مؤلفي المقال.
“لقد أظهرنا لأول مرة أن الشبكة العصبية العامة يمكن أن تحاكي أو تتجاوز التعميم المنهجي البشري من خلال المقارنات وجهاً لوجه.”
في استكشاف إمكانية تحسين التعلم المركب في الشبكات العصبية، قام الباحثون بتطوير MLC، وهي عملية تعلم جديدة يتم من خلالها تحديث الشبكة العصبية باستمرار لتحسين قدراتها على مدى حلقات متتالية.
في إحدى الحلقات، يُطلب من MLC أن يأخذ كلمة جديدة ويستخدمها معًا – على سبيل المثال، خذ الكلمة “القفز” ثم قم بإنشاء مجموعات كلمات جديدة مثل “القفز مرتين” أو “القفز لليمين مرتين”. تحصل MLC على حلقة جديدة تحتوي على كلمات مختلفة، وتعمل على تحسين إمكانات مشاركة الشبكة في كل مرة.
وقال إم إل سي، ليك، المدير المشارك لمبادرة العقل والدماغ والآلات بجامعة نيويورك والباحث في الأبحاث الكاتالونية والدراسات المتقدمة وأستاذ بومبيو فابرا في قسم الترجمة وعلوم اللغة، ماركو باروني، إن الجامعة أجرت سلسلة من التجارب على البشر. كان المشاركون الذين كانوا مشابهين للعمل الذي قامت به حركة تحرير الكونغو
بالإضافة إلى ذلك، بدلاً من تعلم معنى الكلمات الحقيقية – الكلمات التي يعرفها البشر بالفعل – يجب عليهم أيضًا تعلم معنى الكلمات التي لا معنى لها والتي حددها الباحثون (على سبيل المثال، “zup” و”dax”) وتعلم كيفية استخدامها. بطريقة أخرى.
كان أداء MLC مماثلاً لأداء المشاركين من البشر، وفي بعض الحالات، تفوق على البشر. كما تفوقت MLC وPopulation أيضًا على ChatGPT وGPT-4، والتي، على الرغم من قدراتها العامة الرائعة، أظهرت صعوبات في مهمة التعلم هذه.
يقول باروني، وهو عضو في مجموعة أبحاث اللغويات الحاسوبية والنظرية اللغوية في جامعة بومبيو فابرا: “إن نماذج اللغات الكبيرة مثل SatGBT، على الرغم من أنها تحسنت في السنوات الأخيرة، إلا أنها تعاني من التعميم المحدد”.
“لكننا نعتقد أن MLC يمكنها تحسين قدرات التوليف لنماذج اللغات الكبيرة.”
حول أخبار أبحاث الذكاء الاصطناعي
مؤلف: جيمس ديويت
مصدر: جامعة نيويورك
اتصال: جيمس ديويت – جامعة نيويورك
صورة: يُنسب الفيلم إلى Neuronews
البحث الأصلي: الوصول المفتوح.
“تعميم منهجي يشبه الإنسان من خلال شبكة عصبية للتعلم الفوقي“بريندان ليك وآخرون. طبيعة
ملخص
تعميم منهجي يشبه الإنسان من خلال شبكة عصبية للتعلم الفوقي
تنشأ قوة اللغة والفكر البشري من التكوين الشكلي، أي القدرة الجبرية على فهم وإنتاج مجموعات جديدة من عناصر معروفة.
ومن المعروف أن فودور وبيليشين جادلا بأن الشبكات العصبية الاصطناعية تفتقر إلى هذه القدرة، وبالتالي فهي ليست نماذج قابلة للتطبيق للعقل. لقد تطورت الشبكات العصبية بشكل كبير على مر السنين، ولكن التحدي المنهجي لا يزال قائما.
نجحنا هنا في مواجهة تحدي فودور وبيليشين من خلال تقديم دليل على أن الشبكات العصبية يمكنها تحقيق سلوك يشبه سلوك الإنسان عندما يتم تحسين قدراتها التركيبية.
للقيام بذلك، نقدم نهج التعلم التلوي للتركيبية (MLC) الذي يوجه التدريب من خلال تيار ديناميكي من المهام التركيبية. لمقارنة البشر والآلات، أجرينا تجارب سلوكية بشرية باستخدام نموذج التعلم التعليمي.
بعد النظر في سبعة نماذج مختلفة، على النقيض من نماذج الترميز الاحتمالية الرسمية بالكامل ولكن الصارمة والشبكات العصبية المرنة بالكامل ولكن غير الرسمية، فإن MLC فقط هو الذي يحقق كلاً من الشكلية والمرونة المطلوبة للتعميم الشبيه بالإنسان. يعمل MLC على تحسين قدرات التوليف لأنظمة التعلم الآلي في العديد من تعريفات التعميم الرسمية.
تظهر نتائجنا كيف يمكن لبنية الشبكة العصبية القياسية، المُحسّنة لقدراتها التوليفية، أن تحاكي التعميم المنهجي البشري في المقارنة وجهاً لوجه.
“مفكر غير قابل للشفاء. هواة طعام. عالم كحول ساحر. مدافع عن ثقافة البوب.”