گوگل قصد داشت با معرفی AI Overviews، تجربهی جستوجو را دگرگون کند و پاسخهای سریع و هوشمندانه به کاربران بدهد. اما حالا این قابلیت به منبع جدیدی برای کمدیهای اینترنتی و میمهای وایرال تبدیل شده است. کاربران بهصورت آگاهانه پرامپتهای عجیب و غریبی به این هوش مصنوعی میدهند تا ببینند تا کجا میتواند اشتباهات خندهدار یا حتی خطرناک مرتکب شود.
از پاسخ هوشمندانه تا سوژهی خنده: چه اتفاقی افتاد؟
زمانی که گوگل قابلیت AI Overviews را معرفی کرد، هدفش خلاصه کردن اطلاعات وب برای صرفهجویی در وقت کاربران بود. اما این سیستم در عمل نشان داد که بهشدت تحت تأثیر منابعی است که از آنها تغذیه میکند.
کاربران خیلی زود متوجه شدند که اگر سؤالات خاص و مریضی بپرسند، هوش مصنوعی گوگل ممکن است پاسخهای کاملاً بیربط یا مضحک بدهد. این اتفاق باعث شد موجی از اسکرینشاتهای خندهدار در شبکههای اجتماعی مثل X (توییتر سابق) و ردیت راه بیفتد.
معروفترین سوتیهای AI Overviews
بعضی از این پاسخها به قدری عجیب بودند که به سرعت به تیتر اول رسانههای تکنولوژی تبدیل شدند:
- پیتزا با چسب: وقتی کاربری پرسید چگونه از ریختن پنیر پیتزا جلوگیری کنیم، گوگل پیشنهاد داد از «یکهشتم فنجان چسب غیرسمی» در سس استفاده کنید! (منبع این پاسخ احتمالاً یک شوخی قدیمی در ردیت بود).
- رژیم سنگخواری: گوگل در پاسخ به سؤالی درباره فواید سنگ، پیشنهاد داد که خوردن روزانه حداقل یک سنگ کوچک برای سلامتی مفید است.
- دویدن با قیچی: هوش مصنوعی در پاسخ به ایمنیِ دویدن با قیچی، گاهی پاسخهای متناقضی میداد که کاربران را به خنده واداشت.
چرا هوش مصنوعی گوگل اینقدر اشتباه میکند؟
دلیل این کمدی ناخواسته در دو کلمه خلاصه میشود: منابع و منطق.
۱. تکیه بر منابع طنز و کنایهآمیز
گوگل برای تولید این پاسخها از تمام وب، از جمله تالارهای گفتوگوی ردیت (Reddit)، استفاده میکند. مشکل اینجاست که هوش مصنوعی همیشه نمیتواند تفاوت بین یک «نصیحت جدی» و یک «شوخی کنایهآمیز» را تشخیص دهد. وقتی یک کاربر در ردیت ۱۰ سال پیش به شوخی گفته «چسب بزن به پیتزات»، مدل هوش مصنوعی آن را بهعنوان یک فکت (Fact) در نظر میگیرد.
۲. پدیدهی توهم (Hallucination)
مدلهای زبانی بزرگ (LLM) برای راضی نگه داشتن کاربر طراحی شدهاند. آنها ترجیح میدهند یک پاسخ اشتباه اما با اعتمادبهنفس بدهند تا اینکه بگویند «نمیدانم». این موضوع باعث خلق جملاتی میشود که در ظاهر علمی اما در باطن کاملاً پوچ هستند.
واکنش گوگل؛ نبرد با «پرامپتهای مهندسیشده»
گوگل در واکنش به این موج، اعلام کرد که بسیاری از این نتایج مربوط به پرسشهای بسیار نادر و غیرمعمول (Edge Cases) است. این شرکت تأکید کرد که کاربران عمداً تلاش میکنند سیستم را دور بزنند تا پاسخهای عجیب بگیرند.
گوگل برای مقابله با این وضعیت، اقدامات زیر را انجام داد:
- فیلتر کردن منابع: محدود کردن استفاده از تالارهای گفتگو برای سؤالات حساس.
- بهبود فیلترهای ایمنی: جلوگیری از ارائهی پاسخهای خطرناک (مثل پیشنهاد خوردن چسب یا سنگ).
- کاهش دفعات نمایش: حالا گوگل در جستوجوهای کمتری از AI Overviews استفاده میکند تا دقت سیستم را بالاتر ببرد.
چرا مردم عاشق اذیت کردن هوش مصنوعی هستند؟!
این رفتار کاربران ریشه در یک کنجکاوی جمعی دارد. مردم میخواهند محدودیتهای فناوریهای جدید را پیدا کنند. وقتی یک شرکت تریلیون دلاری مثل گوگل ادعا میکند که هوش مصنوعیاش «همه چیز را میداند»، کاربران لذت میبرند که با یک پرامپت ساده مثل «چگونه سنگ بپزیم»، اشتباه آن را ثابت کنند.
این پدیده ثابت کرد که هنوز قضاوت انسانی و تفکر انتقادی جایگزینناپذیر هستند. هوش مصنوعی شاید بتواند دادهها را خلاصه کند، اما هنوز «شعور عام» (Common Sense) ندارد.
