هوش‌مصنوعی آنقدر‌ها هم باهوش نیست!

یک مطالعه جدید این پرسش را مطرح می‌کند که آیا مدل‌های زبانی بزرگ هوش‌مصنوعی، واقعاً مدل‌های منسجمی از جهان می‌سازند؟ به گزارش فارس به نقل از نوروساینس‌نیوز، یک مطالعه جدید این پرسش را مطرح می‌کند که آیا مدل‌های زبانی بزرگ هوش‌مصنوعی (LLM)، علی‌رغم خروجی‌های دقیق آن‌ها در وظایف پیچیده‌ای مانند ارائه مسیریابی یا انجام بازی‌ها، واقعاً مدل‌های منسجمی از جهان می‌سازند؟ پژوهشگران دریافتند در حالی که این مدل‌‌ها تقریباً دستورالعمل‌های رانندگی بی‌نقصی ارائه می‌دهند، در مواجهه با تغییرات غیرمنتظره ناموفق عمل می‌کنند که نشان می‌دهد این مدل‌‌ها قوانین اساسی را درک نمی‌کنند. این پژوهش معیارهایی را برای ارزیابی مدل‌های جهانی LLM‌ها معرفی می‌کند که شکاف‌هایی را در «درک» آن‌ها آشکار می‌سازد؛ حتی زمانی که پاسخ‌‌ها به ظاهر صحیح به نظر می‌رسند. این یافته‌ها می‌تواند برای کاربرد هوش‌مصنوعی در محیط‌های غیرقابل پیش‌بینی دنیای واقعی بسیار حیاتی باشد.

جزئیات بیشتر تحقیق

مدل‌های زبانی بزرگ قادر به انجام کارهای شگفت‌انگیزی هستند، مانند سرودن شعر یا تولید برنامه‌های کامپیوتری کاربردی، حتی با وجود اینکه این مدل‌‌ها صرفاً برای پیش‌بینی کلمات بعدی در یک متن آموزش دیده‌اند. این توانایی‌های حیرت‌انگیز می‌تواند این تصور را ایجاد کند که این مدل‌‌ها به‌طور ضمنی در حال یادگیری برخی حقایق کلی درباره جهان هستند. اما طبق یک مطالعه جدید، این لزوماً درست نیست. پژوهشگران دریافتند که یک نوع محبوب از مدل هوش‌مصنوعی مولد می‌تواند مسیریابی گام به گام در نیویورک را با دقتی تقریباً کامل ارائه دهد؛ بدون آنکه نقشه داخلی دقیقی از شهر در ذهن خود شکل داده باشد. علی‌رغم توانایی خارق‌العاده این مدل در ناوبری مؤثر، هنگامی که پژوهشگران برخی خیابان‌‌ها را مسدود و مسیرهای انحرافی اضافه کردند، عملکرد آن به شدت افت کرد. وقتی محققان عمیق‌تر بررسی کردند، دریافتند که نقشه‌های نیویورکی که مدل به‌طور ضمنی تولید کرده بود، دارای خیابان‌های غیرواقعی بسیاری است که بین شبکه شهری منحنی شده و تقاطع‌های دور از هم را به یکدیگر متصل می‌کنند. این می‌تواند پیامدهای جدی برای مدل‌های هوش‌مصنوعی مولد که در دنیای واقعی به کار گرفته می‌شوند داشته باشد، زیرا مدلی که به نظر می‌رسد در یک زمینه خاص عملکرد خوبی دارد، ممکن است با تغییر اندک در وظیفه یا محیط، دچار اختلال شود.