طوّر باحثون في المعهد الكوري المتقدم للعلوم والتكنولوجيا، تقنية جديدة تهدف إلى تعزيز سلامة نماذج الذكاء الاصطناعي الشخصية، مع الحفاظ على قدرتها على التكيف مع بيانات الأفراد والشركات من دون التأثير في أدائها.
وأوضح الفريق البحثي أن التقنية، التي تحمل اسم«Buffer-and-Reinforce»، تمنع تراجع معايير السلامة أثناء إعادة تدريب نماذج اللغة الكبيرة، مثل «تشات جي بي تي»، على بيانات مخصصة للمستخدمين، وتعتمد على مرحلتين؛ الأولى تستخدم طبقة حماية مؤقتة تُعرف باسم «بوفيرولورا» لعزل تأثير البيانات الضارة خلال التدريب، بينما تُخصص المرحلة الثانية، عبر «ريفورسيلورا»، لاستعادة وتعزيز إجراءات السلامة بعد انتهاء عملية الضبط.
وأظهرت التجارب أن النموذج حافظ على أداء مخصص مرتفع، فيما انخفض معدل توليد الاستجابات الضارة إلى نحو 8%، مقارنة بنحو 18% في النموذج الأصلي. ومن المقرر عرض نتائج الدراسة على نطاق واسع، وسط توقعات بأن تسهم التقنية في تطوير تطبيقات ذكاء اصطناعي شخصية أكثر أماناً وموثوقية.
وأوضح الفريق البحثي أن التقنية، التي تحمل اسم«Buffer-and-Reinforce»، تمنع تراجع معايير السلامة أثناء إعادة تدريب نماذج اللغة الكبيرة، مثل «تشات جي بي تي»، على بيانات مخصصة للمستخدمين، وتعتمد على مرحلتين؛ الأولى تستخدم طبقة حماية مؤقتة تُعرف باسم «بوفيرولورا» لعزل تأثير البيانات الضارة خلال التدريب، بينما تُخصص المرحلة الثانية، عبر «ريفورسيلورا»، لاستعادة وتعزيز إجراءات السلامة بعد انتهاء عملية الضبط.
وأظهرت التجارب أن النموذج حافظ على أداء مخصص مرتفع، فيما انخفض معدل توليد الاستجابات الضارة إلى نحو 8%، مقارنة بنحو 18% في النموذج الأصلي. ومن المقرر عرض نتائج الدراسة على نطاق واسع، وسط توقعات بأن تسهم التقنية في تطوير تطبيقات ذكاء اصطناعي شخصية أكثر أماناً وموثوقية.
