داریو آمودی، بنیانگذار و مدیرعامل Anthropic، به شایعاتی که در صنعت هوش مصنوعی پیچیده بود واکنش نشان داد؛ شایعاتی که میگفتند این شرکت از تلاشهای دولت آمریکا برای ممنوع کردن مدلهای متنباز یا Open-Weight، بهخصوص مدلهای چینی، حمایت میکند.
آمودی در پاسخ خود بسیار صریح بود:
«هر کسی نوشتههای قبلی من را خوانده باشد میداند که من چنین ممنوعیتهایی را اقدام مفیدی نمیدانم، اما برای رفع هرگونه تردید، روشن بگویم: آنتروپیک هرگز از ممنوعیت مدلهای Open-Weights حمایت نکرده است.»
این جمله برای صنعت هوش مصنوعی اهمیت زیادی دارد، چون بحث درباره آینده مدلهای باز، یکی از حساسترین موضوعات امروز است. از یک طرف، مدلهای Open-Weight برای توسعهدهندگان، پژوهشگران و شرکتها ارزش بزرگی دارند. از طرف دیگر، برخی مدیران و سیاستگذاران نگراناند که این مدلها میتوانند به بازیگران خطرناک هم کمک کنند.
ماجرا از کجا شروع شد؟
این واکنش پس از آن مطرح شد که جنسن هوانگ، بنیانگذار و مدیرعامل Nvidia، در پلتفرم X نامهای سرگشاده را منتشر کرد؛ نامهای که توسط خود Nvidia و مجموعهای از شرکتهای بزرگ هوش مصنوعی مانند Meta، Microsoft، Hugging Face و Mistral امضا شده بود.
در آن نامه، از سیاستگذاران خواسته شده بود تا محدودیتهای گسترده و زودهنگام بر روی مدلهای Open-Weight اعمال نکنند.
نکته مهم این است که این نامه بهطور مستقیم نامی از چین نبرد، اما بحث اصلی در صنعت بهوضوح به رقابت آمریکا و چین در هوش مصنوعی گره خورده است. بسیاری از فعالان صنعت معتقدند آزمایشگاههای چینی با روشهایی مانند distillation یا «تقطیر مدل»، از مدلهای آمریکایی تقلید میکنند و به سرعت پیشرفت میرسند.
مدلهای Open-Weight دقیقاً چه هستند؟
برای فهم بهتر موضوع، باید اول بدانیم منظور از مدلهای Open-Weight چیست.
مدل Open-Weight به مدلی گفته میشود که وزنهای آموزشدیده آن در دسترس قرار میگیرد و دیگران میتوانند آن را اجرا، بررسی یا تا حدی شخصیسازی کنند. این موضوع با «open source کامل» یکی نیست، اما از مدلهای بسته تفاوت مهمی دارد.
مزیتهای مدلهای Open-Weight:
- هزینه پایینتر برای استفاده
- قابلیت استقرار روی زیرساختهای شخصی
- دسترسی بهتر برای پژوهشگران و استارتاپها
- امکان سفارشیسازی برای کاربردهای خاص
- کاهش وابستگی به یک شرکت واحد
به گفته آمودی، مدلهای Open-Weight که تواناییهای خطرناک ندارند، نوعی منفعت عمومی هستند؛ چون هزینه استفاده از آنها فقط به توان پردازشی لازم برای اجرا محدود میشود و در عین حال برای کسبوکارها، توسعهدهندگان و پژوهشگران ارزش ایجاد میکنند.
نگرانی اصلی آمودی از چیست؟
با وجود دفاع از مدلهای باز، آمودی نگرانیهای جدی دیگری را مطرح میکند. به گفته او، خطر اصلی در این نیست که شرکتها از مدلهای باز استفاده کنند؛ بلکه نگرانی واقعی این است که دولتهای اقتدارگرا بتوانند مدلهایی بسیار قدرتمندتر از آمریکا بسازند و از آنها برای اهداف نظامی یا سرکوب داخلی بهره بگیرند.
او در توضیح این خطرها به چند محور اشاره میکند:
1) برتری نظامی دائمی
آمودی میگوید اگر یک دولت اقتدارگرا به مدلهای بسیار پیشرفتهتر دست پیدا کند، ممکن است از هوش مصنوعی برای رسیدن به نوعی برتری نظامی دائمی استفاده کند.
2) سرکوب داخلی
از نگاه او، همین فناوری میتواند برای کنترل مردم و افزایش توان نظارتی دولتها به کار برود.
3) تهدیدهای زیستی
آمودی همچنین هشدار میدهد که هوش مصنوعی فقط یک تهدید سایبری نیست. او نگران است که AI بتواند به حملات زیستی هم کمک کند؛ یعنی سناریوهایی که در آن مدلهای پیشرفته به طراحی یا تسهیل تهدیدهای بیولوژیک کمک میکنند.
4) دشواری کنترل مدلهای باز
به باور او، مدلهای Open-Weight در این سناریوها خطرناکتر هستند، چون:
- اعمال محدودیت روی آنها سختتر است
- نظارت بر نحوه استفاده از آنها دشوارتر میشود
- پس از انتشار، عملاً نمیتوان آنها را پس گرفت
پاسخ مخالفان: چرا بسیاری از طرفداران متنباز با این دیدگاه موافق نیستند؟
فعالان متنباز استدلالی متفاوت دارند. آنها میگویند وقتی مدلهای قدرتمند در اختیار یک شرکت یا دولت واحد باشد، همان نهاد میتواند تصمیم بگیرد چه کسی دسترسی داشته باشد و چه کسی نه.
از نگاه این گروه:
- دسترسی آزادتر به مدلها به دفاع بهتر کمک میکند
- پژوهشگران میتوانند آسیبپذیریها را زودتر کشف کنند
- استارتاپها وابسته به چند شرکت محدود نمیمانند
- تمرکز کامل قدرت AI در دست چند بازیگر بزرگ، خودش یک ریسک است
در واقع، این بحث به یک پرسش اساسی برمیگردد:
آیا خطر بیشتر از آنِ مدلهای باز است، یا از آنِ انحصار مدلهای بسته؟
راهحل پیشنهادی آمودی چیست؟
آمودی فقط هشدار نداد؛ بلکه مجموعهای از اقدامات را هم پیشنهاد کرد. از جمله:
1) محدود کردن دسترسی چین به تراشههای قدرتمند
این سیاست سالهاست بخشی از رویکرد آمریکا بوده است.
2) مقابله جدی با distillation
او خواهان برخورد رسمیتر با روشهایی است که بهوسیله آن مدلها از هم تقلید میکنند.
3) ایجاد یک نهاد بینالمللی برای تست ایمنی مدلها
یکی از جالبترین بخشهای حرفهای او این بود که از تلاشها برای ساخت یک سازمان آزمون ایمنی مدلهای هوش مصنوعی حمایت میکند؛ بهویژه اگر این ارزیابیها بهصورت جهانی انجام شود.
آمودی حتی گفت چنین ایدهای میتواند به اجماع جهانی نزدیک باشد، به شرطی که همه کشورها، از جمله چین، در آن مشارکت کنند.
او همچنین اشاره کرد که حتی دولت ترامپ در ماههای اخیر در این مسیر حرکت کرده و پیشنهادهای صنعتی هم مطرح شده که بر اساس آن، ارزیابی ایمنی فقط برای مدلهای بسیار قدرتمند انجام شود، نه برای همه مدلها.
چرا این موضع مهم است؟
اظهارات آمودی چند پیام مهم دارد:
برای شرکتها
شرکتها میفهمند که:
- استفاده از مدلهای باز لزوماً تهدید نیست
- اما باید برای امنیت، نظارت و کنترل دادهها استراتژی داشته باشند
برای سیاستگذاران
این بحث نشان میدهد که ممنوعیتهای کور و گسترده احتمالاً راهحل مناسبی نیستند. بهجای آن، باید سراغ سیاستهای دقیقتر رفت.
برای صنعت هوش مصنوعی
این موضوع میتواند آینده رقابت میان:
- مدلهای بسته
- مدلهای Open-Weight
- و چارچوبهای ایمنی جهانی
را شکل دهد.
جمعبندی
حرف اصلی داریو آمودی این نیست که مدلهای Open-Weight باید ممنوع شوند؛ برعکس، او صراحتاً میگوید آنتروپیک هرگز چنین چیزی را پیشنهاد نکرده است. اما در عین حال، او هشدار میدهد که هوش مصنوعی قدرتمند در دست دولتهای اقتدارگرا، تهدیدی بسیار جدیتر از استفاده عادی کسبوکارها از مدلهای باز است.
این موضع، تضاد میان دو دیدگاه مهم در صنعت AI را روشن میکند:
- آزادی و دسترسی عمومی
- کنترل، ایمنی و پیشگیری از سوءاستفاده
به نظر میرسد آینده هوش مصنوعی نه با ممنوعیتهای کلی، بلکه با ترکیب دسترسی باز، نظارت هوشمند، و تستهای ایمنی جهانی رقم خواهد خورد.
