شرکت Anthropic اعلام کرد امسال چندین تلاش دانشمندان برای استفاده از هوش مصنوعی این شرکت در جهت توسعه سلاحهای بیولوژیک را خنثی کرده است. این شرکت پنج مورد را گزارش داد که در آنها افراد با دور زدن اقدامات کنترلی و پنهان کردن اهداف واقعی خود، سعی در عبور از پروتکلهای ایمنی داشتهاند.
نگرانیهای فزاینده درباره خطرات هوش مصنوعی
بر اساس گزارش فایننشال تایمز، همزمان با افزایش نگرانی کارشناسان درباره تهدیدات هوش مصنوعی برای امنیت عمومی، Anthropic اعلام کرده است که در سال جاری میلادی جلوی تلاشهای متعددی را گرفته که در آنها دانشمندان قصد داشتند از فناوری این شرکت برای تحقیقاتی که میتواند به توسعه سلاحهای بیولوژیک کمک کند، استفاده نمایند.
جزئیات موارد نقض ایمنی
Anthropic پنج مورد را برشمرد. در این موارد، عاملان با «دور زدن اقدامات کنترلی» و استفاده از روشهای دیگر، اهداف تحقیقاتی خود را «گمراهکننده» جلوه داده تا پروتکلهای ایمنی را دور بزنند. این شرکت در گزارشی درباره سوءاستفاده از مدلهایش برای فعالیتهای مخرب عنوان کرد: «امیدواریم با اشتراکگذاری این موارد، بتوانیم بحثهایی را در صنعت هوش مصنوعی و دولتها درباره خطرات بیولوژیکی نوظهور و بهترین روشهای مقابله با آنها آغاز کنیم.»
محدودیت آزمایش آنفولانزای پرندگان روی ضعیفترین مدل
مطالعات موردی ارائه شده توسط شرکت، سوءاستفاده احتمالی از هوش مصنوعی در حوزه زیستشناسی را نشان میدهد. از جمله، پژوهشگری از «منطقهای غیرپشتیبانی شده» با استفاده از مدل Claude، طرحریزی آزمایشهایی مرتبط با آنفولانزای پرندگان را طی چندین هفته انجام داده است. Anthropic اعلام کرد فیلترهای ایمنی این شرکت، این تحقیق را به ضعیفترین مدل خود محدود کردهاند.
Anthropic تأکید کرد که قادر به تعیین نیت مخرب دانشمندان در این موارد نیست؛ زیرا اطلاعات مورد نیاز برای توسعه سلاحهای بیولوژیک، میتواند برای توسعه واکسن نیز به کار رود. در حال حاضر، Anthropic حسابهای کاربری ذکر شده در گزارش را مسدود کرده است، اما نام مؤسسات درگیر یا کشورهای محل وقوع حوادث را فاش نکرده است.
افزایش جنجالهای امنیتی و درخواست برای مقررات
پیش از این، طوفانی از افکار عمومی پیرامون ایمنی هوش مصنوعی آغاز شد: جیکوب کاکسون، محقق امنیتی Anthropic، با اعلام استعفای خود گفت که توسعهدهندگان این شرکت «واقعاً معتقدند که هوش مصنوعی ممکن است پیش از پایان این دهه همه ما را از بین ببرد.» اوایل سال جاری، نگرانیها درباره این فناوری با انتشار مدلهای پیشرفتهای مانند Mythos از Anthropic تشدید شد؛ OpenAI نیز در ماه ژوئیه با اعلام اینکه مدلش به طور مستقل به شرکت هوش مصنوعی Hugging Face نفوذ کرده، باعث نگرانی شد.
با پیشرفتهتر شدن مدلهای هوش مصنوعی، اجماع فزایندهای بین مدیران هوش مصنوعی و پژوهشگران امنیت زیستی مبنی بر نیاز به اقدامات ایمنی و مقررات برای کاربرد فناوری هوش مصنوعی در حوزه زیستشناسی وجود دارد. کارشناسان به طور فزایندهای نگرانند که هوش مصنوعی بتواند توسط گروههای تروریستی، بازیگران دولتی یا مهاجمان انفرادی برای ایجاد سلاحهای بیولوژیک، طراحی ویروسها یا انتشار عوامل بیماریزای مضر موجود، مورد استفاده قرار گیرد. با این حال، حتی اگر هوش مصنوعی بتواند سلاحهای بیولوژیکی نظری را طراحی کند، موانع واقعی همچنان پابرجا هستند؛ از جمله امکان ساخت واقعی آنها و منابع مورد نیاز برای این کار.
