چرا در عصر هوش مصنوعی به دروازه‌بانی علمی نیاز داریم

مقدمه

در دهه‌های گذشته، اینترنت قدرت دروازه‌بانان را به‌تدریج کاهش داد و دسترسی به اطلاعات را دموکراتیک کرد. تلاش برای مقاومت در برابر این روند اغلب به‌عنوان سانسور یا نخبه‌گرایی تلقی می‌شد. اما ظهور مدل‌های زبانی بزرگ (Large Language Models) و توانایی تولید انبوه متن با سرعت بالا، معادله را تغییر داده است. اکنون نهادها با هجوم بی‌سابقه‌ای از اطلاعات مواجه‌اند که باید به آن‌ها رسیدگی کنند. این مقاله به بررسی این چالش و ضرورت دروازه‌بانی در عصر هوش مصنوعی می‌پردازد.

هجوم اطلاعات به نهادها

در گذشته، ارتباطات عمدتاً از نوع یک‌به‌چند از سوی نهادها بود و هیچ‌کس مجبور به شنیدن این همهمه نبود. اما امروزه مدل‌های زبانی بزرگ با تولید سریع متن، نهادها را با حمله اطلاعاتی چند‌به‌یک مواجه کرده‌اند. این پدیده در تعاملات بوروکراتیک با دادگاه‌ها، مدارس و مقامات محلی نیز دیده می‌شود. سیستم‌ها قادر به پردازش این حجم اطلاعات نیستند و دچار اختلال می‌شوند. دروازه‌بانان ضمنی که پیش‌تر چنین ارسال‌هایی را کنترل می‌کردند – مانند زمان، توانایی و دسترسی – با هوش مصنوعی از میان رفته‌اند.

تأثیر بر علم و preprintها

همین اتفاق در علم نیز در حال وقوع است. ریاضی‌دانان در برابر هجوم هوش مصنوعی خواستار حضور بیشتر ریاضی‌دانان شده‌اند. سرور preprint آرکایو (arXiv) در دو سال گذشته شاهد دو برابر شدن ارسال‌ها بوده است. اگرچه preprintها به‌طور رسمی داوری همتا نمی‌شوند، تیم کوچک آرکایو حداقل استانداردها را تضمین می‌کند و اکنون overwhelmed شده است. در پاسخ، آرکایو اخیراً اعلام کرد که ارسال‌ها را به دو مورد در ماه محدود می‌کند – که هنوز رقم بالایی است، زیرا تعداد کمی از دانشمندان سالانه ۲۴ مقاله با کیفیت تولید می‌کنند.

چرا دروازه‌بانی ضروری است

این نوع دروازه‌بانی تنها راه بقای نهادها در عصر هوش مصنوعی است، مگر اینکه بخواهیم کاملاً کنترل را به هوش مصنوعی بسپاریم و اجازه دهیم ورودی‌ها و خروجی‌ها را مدیریت کند. اما دلایل خوبی برای عدم انجام این کار وجود دارد. ابزارهای تأیید نتایج ریاضی در معرض حمله هوش مصنوعی هستند، بنابراین حفظ انسان در حلقه (Human-in-the-loop) تنها راه برای درک حقیقت است. این موضوع برای حوزه‌هایی که تأیید آن‌ها دشوارتر از ریاضیات است – یعنی تقریباً همه چیز – بیشتر صدق می‌کند. بنابراین باید از دروازه‌بانان حمایت کنیم، زیرا کار زیادی پیش رو دارند.

نتیجه‌گیری

در عصر هوش مصنوعی، دروازه‌بانی علمی نه تنها یک ضرورت، بلکه یک مسئولیت است. بدون آن، خطر غرق شدن در دریایی از اطلاعات بی‌کیفیت و از دست دادن اعتبار علمی وجود دارد. حضور انسان در فرایند ارزیابی، تضمین‌کننده صداقت و دقت علم است. بنابراین، به‌جای نکوهش دروازه‌بانان، باید از آن‌ها قدردانی کنیم.