به گزارش مدیاتی:انتروپیک، استارتاپ نوظهور هوش مصنوعی که با مدل‌های پیشرفته‌اش سر و صدای زیادی به پا کرده، به تازگی هدف جاه‌طلبانه‌ای برای سال 2027 اعلام کرده است. این شرکت که خود را “پژوهشگرانی متعهد به توسعه هوش مصنوعی ایمن” معرفی می‌کند، قصد دارد تا سه سال آینده تحولی اساسی در صنعت هوش مصنوعی ایجاد کند.
اما این هدف بزرگ دقیقاً چیست؟ منابع نزدیک به شرکت از برنامه‌هایی برای توسعه مدل‌های هوش مصنوعی نسل بعدی خبر می‌دهند که می‌توانند درک عمیق‌تری از زبان و استدلال انسانی داشته باشند. برخی گمانه‌زنی‌ها حاکی از آن است که انتروپیک ممکن است رویکرد کاملاً جدیدی در معماری مدل‌های زبانی ارائه دهد.
نکته جالب توجه اینجاست که انتروپیک در حالی این اهداف بلندپروازانه را تعیین کرده که رقبایی مانند OpenAI و Google DeepMind نیز به شدت در حال پیشرفت هستند. آیا این استارتاپ می‌تواند در این رقابت تنگاتنگ حرفی برای گفتن داشته باشد؟
تعیین هدفی بلندپروازانه برای سال ۲۰۲۷: تمرکز استارتاپ هوش مصنوعی انتروپیک بر درک‌پذیری
شرکت نوپای انتروپیک، فعال در زمینه هوش مصنوعی، چشم‌انداز و هدف مهمی را برای سال ۲۰۲۷ ترسیم کرده است. این استارتاپ قصد دارد در سال‌های آتی، تمرکز ویژه‌ای بر ارتقای سطح درک‌پذیری در سیستم‌های هوش مصنوعی داشته باشد؛ موضوعی که به طور فزاینده‌ای در محافل علمی و صنعتی مورد توجه قرار گرفته است.
داریو آمودی، مدیرعامل شرکت انتروپیک، در مقاله‌ای با عنوان «فوریت درک‌پذیری»، برنامه‌های بلندمدت و جاه‌طلبانه‌ی این شرکت را برای دستیابی به فهم عمیق‌تر از عملکرد سیستم‌های پیشرفته‌ی هوش مصنوعی تا سال ۲۰۲۷ تشریح کرده است. وی در این مقاله بر اهمیت حیاتی درک مکانیسم‌های تصمیم‌گیری در مدل‌های هوش مصنوعی، پیش از تحقق هوش عمومی مصنوعی (AGI)، تأکید کرده و نسبت به خطرات احتمالی ناشی از تصمیمات غیرشفاف این فناوری در حوزه‌های حساسی نظیر امنیت ملی و اقتصاد هشدار داده است.
محور اصلی برنامه‌ی جدید انتروپیک، روشی نوآورانه با عنوان «درک‌پذیری مکانیکی» قرار دارد. هدف از این رویکرد، مهندسی معکوس مسیرهای پردازش اطلاعات و استدلال در مدل‌های زبانی بزرگ به منظور شناسایی دقیق‌تر رفتارها و سوگیری‌های احتمالی آن‌ها است. آمودی این فرآیند پیچیده را به نوعی «اسکن مغزی» برای هوش مصنوعی تشبیه کرده و بر ضرورت شناخت ساختارهای درونی این مدل‌ها، پیش از آنکه کاربرد گسترده‌تری پیدا کنند، تأکید کرده است.
بر اساس گزارش‌های منتشر شده، انتروپیک تاکنون دستاوردهای اولیه‌ای در این زمینه داشته و موفق به شناسایی مدارهای عصبی خاصی در مدل Claude شده است. به عنوان مثال، مداری که ارتباط بین نام شهرها و ایالت‌های مختلف در ایالات متحده آمریکا را تشخیص می‌دهد، از جمله این موارد است. اگرچه این یافته‌ها هنوز در مراحل ابتدایی قرار دارند، اما نشان‌دهنده‌ی آغاز مسیری دشوار و طولانی برای گشودن رمز و رازهای پیچیده‌ی مدل‌های هوش مصنوعی هستند که میلیون‌ها مدار عصبی ناشناخته را در خود جای داده‌اند.
چالش‌های مربوط به درک‌پذیری، تنها محدود به استارتاپ انتروپیک نیست و شرکت‌های بزرگ و پیشرو دیگری مانند OpenAI و گوگل دیپ‌مایند نیز با مسائل مشابهی دست و پنجه نرم می‌کنند. به عنوان نمونه، با ارتقاء قابلیت‌های این مدل‌ها، پدیده‌ای به نام «توهم» نیز افزایش می‌یابد که در آن، مدل اطلاعات نادرست یا بی‌ربط تولید می‌کند. این روند رو به رشد، ضرورت پیشرفت‌های همزمان در زمینه‌های ایمنی و شفافیت توسعه‌ی هوش مصنوعی را بیش از پیش آشکار می‌سازد.
آمودی، ضمن ابراز خوش‌بینی محتاطانه نسبت به امکان پیشرفت‌های چشمگیر در زمینه درک‌پذیری هوش مصنوعی طی بازه‌ی زمانی ۵ تا ۱۰ سال آینده، بر این باور است که شناسایی ویژگی‌های مفهومی پیچیده‌ای مانند طعنه یا همدلی در این مدل‌ها، نشان می‌دهد که حتی با استفاده از ابزارهای فعلی نیز می‌توان به بینش‌های ارزشمندی دست یافت. وی همچنین تأکید کرده است که بهبود سطح درک‌پذیری، علاوه بر افزایش ایمنی و قابلیت اعتماد این سیستم‌ها، می‌تواند به عنوان یک مزیت رقابتی مهم برای شرکت‌های فعال در این حوزه مطرح شود.
در راستای دستیابی به این هدف والا، انتروپیک زیرساخت‌های فنی گسترده‌ای را برای مدیریت حجم عظیم داده‌های مورد نیاز ایجاد کرده و همواره از رویکردی مسئولانه در قبال تدوین مقررات و همکاری‌های بین‌المللی در زمینه‌ی هوش مصنوعی حمایت کرده است. این شرکت با اتخاذ چنین رویکردی جامع، خود را به عنوان یکی از پیشگامان اصلی در زمینه‌ی شفافیت و ایمنی در فرآیند توسعه‌ی هوش مصنوعی معرفی کرده و تلاش می‌کند تا مسیری مطمئن و قابل اعتماد را در این عرصه هموار سازد.
