خطرات استفاده نادرست از مدل‌های هوش مصنوعی در سلامت

به گزارش پردیس هوش مصنوعی و نوآوری دیجیتال ایران، پروژه Foresight، نخستین مدل هوش مصنوعی آموزش‌دیده بر داده‌های سلامت کامل یک ملت است.

این مدل با استفاده از ۱۰ میلیارد رکورد پزشکی از ۵۷ میلیون نفر در انگلستان، می‌تواند صدها رویداد سلامت از جمله حملات قلبی و بستری‌شدن را پیش‌بینی کند. دستاوردی بزرگ برای پزشکی پیش‌بینی کننده و هم‌زمان زنگ خطری برای آزادی زیستی در عصر الگوریتم است.

Foresight می‌تواند به ابزار قدرتمندی برای تشخیص زودهنگام، بهینه‌سازی منابع سلامت و سیاست‌گذاری مبتنی بر داده تبدیل شود. اما همین قدرت، اگر در خدمت تبعیض قرار گیرد، می‌تواند به تفکیک زیستی اقلیت‌ها، حذف تدریجی گروه‌های پرهزینه، یا حتی مهندسی جمعیتی پنهان، آن‌هم بدون تصمیم مستقیم انسانی بلکه صرفاً با خروجی یک مدل منجر شود.

این پروژه، مرز میان مراقبت و کنترل را بازتعریف می‌کند. پزشکی فردا، نه‌فقط نیازمند دقت الگوریتمی، بلکه تشخیص فلسفی میان «پیش‌بینی» و «پیش‌داوری» است. اما سوال اساسی این است که چه کسی آینده سلامت ما را خواهد دید؟ آن هم با چه نیتی؟!