Pangram، استارتاپ نیویورکی تشخیص محتوای تولیدشده توسط هوش مصنوعی، 9 میلیون دلار سرمایه جذب کرد و همزمان از نسل جدید مدلهای خود برای تشخیص متن و تصویر مبتنی بر هوش مصنوعی رونمایی کرد. این سرمایهگذاری که به رهبری Menlo Ventures و با مشارکت Haystack، ScOp، Script Capital و Cadenza انجام شد، نشاندهنده رشد تقاضا برای ابزارهای تفکیک محتوای انسانی و محتوای تولیدشده یا ویرایششده توسط AI است.
آنچه Pangram اعلام کرده
– رونمایی از Pangram 4: مدل جدید تشخیص متن که به گفته شرکت بیش از 99٪ در شناسایی نوشتههای کاملاً تولیدشده توسط AI یا متنهای ترکیبی انسان-هوش مصنوعی دقت دارد و میتواند ابزارهای «انسانیسازی» متنهای تولیدشده توسط مدلهای زبانی را نیز بهتر تشخیص دهد. (ابزارهای انسانساز برنامههاییاند که تلاش میکنند خروجی AI را طوری بازنویسی کنند که به شکلی طبیعی و انسانی بهنظر برسد و از شناسایی توسط دیتکتورها فرار کند.)
– معرفی Pangram Image: مدل تشخیص تصویر AI که فعلاً در قالب ظرف پژوهشی (research preview) عرضه شده و طی هفتههای آینده دستیابی گستردهتری برای آن در نظر گرفته شده است.
– روش آموزشی: تیم Pangram میگوید مدلهای آنها روی دهها میلیون سند انسانی واقعی آموزش دیدهاند و برای هر سند یک «آینهٔ مصنوعی» تولید شده — یعنی نسخهای با همان موضوع، طول و لحن که توسط یک مدل پیشرفته تولید شده تا مدل تفاوتهای سبکشناختی بین زبان انسانی و انتخابهای تکراری AI را بیاموزد. این شرکت تأکید میکند که کارش بر پایه متادیتا یا واترمارکهای پنهان نیست.
زمینه و انگیزه
بنیانگذاران استارتاپ، مکس اسپرو و برادلی امی، دانشآموختگان استنفورد، حدود دو سال پیش Pangram را تأسیس کردند؛ زمانی که عرضه چتباتهایی مانند ChatGPT موجی از محتوای تولیدشده توسط مدلهای زبانی را در اینترنت ایجاد کرد. این موج باعث افزایش محتوای نامعتبر، سئوی کمکیفیت تولیدشده توسط AI و حتی استفاده از مدلهای زبانی در کمپینهای اطلاعاتنادرست شده است. Pangram هدف خود را ایجاد مکانیزمی برای تمییز محتوای انسانی از AI و نیز تعیین میزان دخالت AI در تولید متن (مثلاً ویرایش جزئی تا تولید کامل) اعلام کرده است.
قابلیتها و دسترسی
– پنل وب و اشتراک: دسترسی وبی با اشتراک ماهیانه 20 دلار.
– افزونه کروم: برچسبگذاری بلادرنگ پستها در شبکههایی مانند X، LinkedIn، Substack، Reddit و Medium و ارائه «نمره سلامت فید» با نمایش درصد محتوای انسانی در صفحه.
– API: ارائه فناوری به پلتفرمها و سازمانها؛ مشتریان اولیه شامل Substack (برای نمایش به خوانندگان که آیا نویسنده از AI استفاده کرده)، Quora، مدارس و دانشگاهها، ناشران، آژانسها و شرکتهای جذب نیرو گزارش شده است.
محدودیتها و آزمایشهای اولیه
تحقیقات و تستهای مقدماتی نشان میدهد Pangram عملکرد بسیار خوبی در تشخیص مقالات کاملاً تولیدشده توسط ChatGPT و Claude دارد و بهندرت با تلاش برای انسانیسازی فریب میخورد. با اینحال، مدل کاملاً بیخطا نیست: در برخی موارد جملاتی که بهصورت انسانی بازنویسی شده بودند نیز علامت AI گرفتند؛ یا وقتی تنها بخشهایی از متن توسط AI ویرایش شده بود، مدل درصدی کم (مثلاً 13٪) به عنوان «کمک AI» گزارش کرد. در حوزه تصویر، مدل با تحلیل توزیع پیکسلها و الگوهای آماری توانسته تصاویر تولیدشده توسط انواع مدلها را تشخیص دهد و نقشه گرمایی (heat map) نواحی مشکوک را نمایش دهد، اما گاهی هم اشتباهاتی رخ میدهد.
جایگاه در بازار و رقبا
Pangram در بازاری رقابتی قرار دارد که بازیگرانی نظیر Winston AI، Originality.ai، Copyleaks و GPTZero نیز در آن فعالاند. هر یک از این ابزارها رویکردی متفاوت برای تشخیص محتوا دارند؛ برخی بر واترمارک، برخی بر تحلیل سبک و برخی بر دادههای آموزشی گسترده تکیه میکنند.
پیام بنیانگذاران و چشمانداز
مکس اسپرو بر این باور است که دانستن منبع تولید یک متن برای قضاوت درباره اعتبار و نحوه برخورد با آن ضروری است: آیا باید نسبت به احتمال «هالوسیناسیون» (ساخت نقلقول یا منبع تقلبی توسط AI) بدبین بود یا میتوان متن را بهعنوان تلاش روزنامهنگار واقعی پذیرفت؟ او همچنین هشدار میدهد که اگر محتوای تولیدشده توسط AI بدون بازشناسی و تفکیک ادامه یابد، «سیگنال انسانی» در فضای وب غرق خواهد شد. در عین حال Pangram اعلام کرده هدفش ایجاد «شکارچی» برای کاربران نیست، بلکه فراهم کردن ابزار شفافیت و تشویق به افشای استفاده از AI است.
پیامدها برای رسانهها، دانشگاهها و حقوق
ابزارهای تشخیص AI میتوانند در مقابل انتشار اطلاعات غلط، ارزیابی کیفیت محتوا در رسانهها و مقابله با استنادهای ساختگی در پروندههای حقوقی یا مقالات علمی مفید باشند. از سوی دیگر، سیاستگذارانی مانند آرکایو arXiv نیز قوانین جدیدی درباره بازبینی خروجی LLMها و پیامدهای احتمالی آن اعمال کردهاند که نشان میدهد نهادهای علمی و حرفهای به دنبال کنترل و شفافیت بیشتر در استفاده از AI هستند.
جمعبندی
سرمایهگذاری 9 میلیون دلاری و معرفی Pangram 4 و Pangram Image نشاندهنده اهمیت روزافزون ابزارهای تشخیص محتوای تولیدشده یا ویرایششده توسط هوش مصنوعی است. اگرچه هیچ مدل تشخیصی بینقص نیست، اما ترکیب دادههای انسانی گسترده، تولید «آینه مصنوعی» و تحلیل پیکسلی تصاویر، گامی قابلتوجه در جهت بازگرداندن شفافیت به محتوای آنلاین محسوب میشود. دسترسی گستردهتر این فناوری در هفتههای آینده میتواند به نهادها، ناشران و کاربران کمک کند تا بهتر تشخیص دهند با چه نوع محتوایی مواجهاند و چگونه به آن پاسخ دهند.