ورود هوش مصنوعی به عرصه اطلاعات طبقهبندیشده
به گزارش گروه آینده پژوهی پردیس هوش مصنوعی و نوآوری دیجیتال ایران، شرکت (Anthropic) از مدلهای هوش مصنوعی ویژهای به نام "Claude Gov" رونمایی کرد که بهطور اختصاصی برای مشتریان بخش امنیت ملی ایالات متحده طراحی شده است.
این مدلها با توجه به بازخورد مستقیم مشتریان دولتی، برای انجام عملیاتهایی نظیر برنامهریزی استراتژیک، تحلیل اطلاعات و پشتیبانی عملیاتی ساخته شدهاند. بهگفته Anthropic، مدلهای Claude Gov در اکنون در حال خدمترسانی به آژانسهای امنیت ملی ایالات متحده هستند و دسترسی به آنها به افرادی که در محیطهای طبقهبندیشده کار میکنند، محدود است.
فرآیند مدلها
مدلهای Claude Gov در مقایسه با مدلهای معمولی Anthropic، که تحت برند Claude شناخته میشوند، تفاوتهای زیادی دارند. این مدلها قادر به پردازش اطلاعات طبقهبندیشده هستند و هنگام پردازش چنین اطلاعاتی کمتر خطا میکنند. همچنین، این مدلها بهطور خاص برای کار با اسناد اطلاعاتی و دفاعی طراحی شدهاند و دارای "توانمندی پیشرفته" در زبانها و گویشهای حیاتی برای عملیاتهای امنیت ملی هستند.
این شرکت به دنبال قراردادهای دولتی است تا منابع درآمدی پایدار بدست آورد و در همین راستا، در نوامبر گذشته با شرکتهای Palantir و Amazon Web Services برای فروش ابزارهای هوش مصنوعی به مشتریان دفاعی همکاری کرده است.
این اقدام، اولین نمونه از استفاده هوش مصنوعی در این زمینه نیست. در سال 2024، شرکت Microsoft نسخهای از مدل GPT-4 خود را برای جامعه اطلاعاتی ایالات متحده عرضه کرد که در یک شبکه ویژه بدون دسترسی به اینترنت فعالیت میکرد. این سیستم به حدود 10,000 نفر از اعضای جامعه اطلاعاتی برای آزمایش و پاسخگویی به سوالات دسترسی داده شد.
پدیده تجمیع غلط اطلاعات
استفاده از مدلهای هوش مصنوعی در تحلیل اطلاعات امنیتی البته با نگرانیهایی همراه است. یکی از نگرانیهای عمده، پدیده "تجمیع غلط اطلاعات" است که در آن مدلها ممکن است اطلاعات نادرست و اغواکنندهای تولید کنند که برای تصمیمات حساس امنیت ملی خطرناک باشد. این مدلها بهدلیل عملکرد بر اساس احتمالات آماری و نه بهعنوان پایگاه داده، میتوانند اطلاعات نادرستی را تولید کنند که برای آژانسهای اطلاعاتی گمراهکننده باشد.
این حرکت از سوی شرکتهای هوش مصنوعی، نشاندهنده تغییرات در رویکرد برخی از این شرکتها است که پیشتر از استفاده از فناوریهای خود در بخش نظامی خودداری میکردند.
مدلهای ویژه دولتی نیازمند قابلیتهایی متفاوت از ابزارهای مصرفی هوش مصنوعی هستند، از جمله توانایی پردازش اطلاعات طبقهبندیشده و کار با دادههای حساس بدون فعال شدن محدودیتهای ایمنی که ممکن است عملیاتهای دولتی مشروع را مسدود کند.