مقابله Reddit با اسپم هوش مصنوعی یعنی جنگ تازه برای گفتوگوی انسانی
اسپم AI دیگر فقط متنهای بیکیفیت و واضح نیست؛ میتواند لحن جامعه را تقلید کند، اعتبار جمع کند و قبل از دیدهشدن الگو، فضای بحث را عوض کند.
نویسنده امنیت و کسبوکار دیجیتال
اسپم AI فرق دارد
اسپم قدیمی آزاردهنده اما قابل تشخیص بود؛ بد مینوشت، شلوغ بود و بوی تبلیغ میداد. اسپم AI میتواند آرامتر باشد: سؤال را جواب بدهد، لحن بحث را تقلید کند و آرامآرام اعتبار بسازد.
برای همین مسئله فقط حذف مزاحمت نیست. مسئله حفظ این حس است که پشت گفتوگوها هنوز آدم واقعی نشسته است.
مقالههای مرتبط
پوشیدنیهای هوش مصنوعی برگشتهاند؛ مسئله اصلی این است چه کسی ضبط میشود
صف moderation کافی نیست
صف moderation چیزی را میبیند که آشکار شده است. سوءاستفاده هماهنگ AI معمولاً با رفتارهای کوچک و تقریباً عادی کار میکند: چند نظر کوتاه، چند حساب قدیمی، چند مشارکت قابل قبول و بعد تغییر جهت بحث.
پلتفرمها باید به تاریخچه حساب، الگوی رفتار، نرخ فعالیت، منشأ محتوا و رفتار بین جامعهها نگاه کنند. هدف ممنوعکردن همه اتوماسیون نیست؛ هدف جلوگیری از جعل اجماع اجتماعی است.
چرا کاربر باید اهمیت بدهد
اگر کاربر حس کند جوابها از آدمها نمیآیند، وب اجتماعی تبدیل میشود به موتور جستوجویی که لباس جامعه پوشیده است. تجربه خرید، نقد محصول، راهنمای محلی و گفتوگوی پشتیبانی همه کمارزش میشوند.
پلتفرمی که اصالت را بدون لهکردن حریم خصوصی حل کند، یکی از مهمترین لایههای اعتماد دوران AI را میسازد.
“خبر خوب، خبری است که کاربر بعد از خواندن آن تصمیم بهتری بگیرد.”
درباره نویسنده
سینا فرزان
نویسنده امنیت و کسبوکار دیجیتال
سینا روی امنیت سایبری، بلاکچین، اعتماد دیجیتال و کاربرد فناوری در کسبوکارهای کوچک تمرکز دارد.
