مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

49 خبر
  • منتدى الشرق الاقتصادي في فلاديفوستوك
  • حرب الخليج
  • رياضة
  • منتدى الشرق الاقتصادي في فلاديفوستوك

    منتدى الشرق الاقتصادي في فلاديفوستوك

  • حرب الخليج

    حرب الخليج

  • رياضة

    رياضة

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude

اكتشف باحثون في نموذج Claude للذكاء الاصطناعي ما يشبه "المونولوغ الداخلي"، الذي قد يختلف أحيانا عن الإجابات التي يقدمها للمستخدمين.

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude
صورة أرشيفية / vecteezy.com

واكتشفت شركة Anthropic داخل نموذجها منطقة خاصة أطلقت عليها اسم "فضاء J"، نسبة إلى مصفوفة يعقوبي. ويُعتقد أن Claude يخزن فيها مفاهيم ومعالجات لا تتحول أبدا إلى كلمات ظاهرة، وهي أشبه بذاكرة قصيرة المدى خاصة بالشبكة العصبية.

وفي إحدى التجارب، أعاد نموذج Claude كتابة جملة عادية، بينما طُلب منه التفكير في جسر "البوابة الذهبية". وخلال ذلك، ظهرت في تمثيلاته الداخلية مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن النص نفسه لم يتضمن أي إشارة إلى هذه الكلمات.

وعند محاولة تعطيل "فضاء J"، تراجعت جودة أداء النموذج بشكل ملحوظ. والأكثر إثارة للاهتمام أن الباحثين وجدوا أن Claude قادر، إلى حد ما، على إدراك خضوعه للدراسة الداخلية، إذ كان أداؤه في الاختبارات الأخلاقية أسوأ عند غياب هذه القدرة.

وأوضح المطورون: "يمكننا الآن رؤية كيفية تنفيذ Claude لخطوات التفكير بصمت داخل بنيته الداخلية، حيث يكتشف الأخطاء في الأكواد، ويتعرف على الصور، وغير ذلك. وكما يستطيع الإنسان التفكير في شيء ما أثناء انشغاله بمهمة أخرى، يمكن لـ Claude تنشيط مفاهيم وحسابات في فضاء J الخاص به لا ترتبط بالضرورة بما يخرجه للمستخدم."

وأكدت شركة Anthropic أن هذه التقنية تتيح للباحثين رؤية ما يحدث داخل النموذج وما المفاهيم التي يعالجها، حتى لو لم تظهر في إجاباته النهائية.

المصدر: Naukatv.ru

التعليقات

إيران تكشف الأهداف التي قصفتها في دول عربية

بقايا "صاروخ أمريكي" تفضح مجزرة في إيران وقاليباف يصف واشنطن بـ"الشيطان الأكبر" (صور)

المرحلة الفعلية بدأت.. وزارة الدفاع السعودية تصدر بيانا بخصوص "التحالف البحري الدفاعي"

نتنياهو من داخل غزة: لن ننسحب ونسيطر على 60% من القطاع

الوكالة الدولية للطاقة الذرية: إيران قادرة على إنتاج عدة أسلحة نووية وترفض التعاون مع المفتشين

وزارة الصحة الإيرانية تعلن عدد القتلى والجرحى في القصف الأمريكي الأخير

السفير الروسي: ألمانيا لا تملك أدلة مادية على تورطنا في حادثة لايبزيغ

روبيو: واشنطن بحاجة للتواصل مع موسكو باعتبارها ثاني قوة نووية في العالم

"NBC": واشنطن تحقق في ملابسات الضربة التي استهدفت حفل زفاف في إيران

سوريا.. لا مكان لمقاتلات "حماية المرأة" في الجيش ومباحثات لدمجهن في الداخلية

سوريا.. تطوي نووي نظام الأسد و73 طنا من اليورانيوم تحت ضمانات الوكالة الدولية

ترامب يعرب عن تطلعه لقمة جديدة مع بوتين بعد انتهاء النزاع الأوكراني

روبيو: ويتكوف وكوشنر يركزان بالكامل على مفاوضات السلام.. والعالم في مرحلة انتقالية

إيران: ترامب لم يعد راغبا في ضرب إيران والمواجهة طويلة حتى رحيله من منصبه