هوش مصنوعی آزاد نیست؛ ما فقط خروجی مهندسی شده آن را می‌بینیم!

این روزها همه از هوش مصنوعی سؤال می‌پرسند؛ اما حقیقت، پشت ظاهر براق این ماشین‌ها پنهان است. هوش مصنوعی شبیه کودکی است که خیلی زود حرف زدن را یاد گرفته؛ اما هنوز نمی‌داند کجا باید بلند حرف بزند و کجا آرام.
نه چون عقلش کم است، بلکه چون کسی از پشت پرده برایش تعیین کرده.

ماشین فقط دهان دارد؛ اما لحن و فکرش را دیگری می‌نویسد. همان‌ها که دوست دارند حرف ماشین، مثل پژواک حرف خودشان بر دیوار جامعه برگردد.

۱) دفترچه خاطرات ماشین را خودشان می‌نویسند:

ماشین با خواندن هزاران نوشته رشد می‌کند. اما اینکه: چه چیزی را زیاد بخواند، چه چیزی را اصلاً نبیند، و نسبت به چه موضوعی حساس یا بی‌خیال شود، همه‌اش را دیگران برایش انتخاب می‌کنند. ماشین مثل آدمی است که دنیا را از پنجره‌ای می‌بیند که دیگران برایش باز گذاشته‌اند.

۲) بعد برایش خلق‌وخو می‌سازند
ماشین ذات ندارد. خلق‌وخویش را از رفتارهایی می‌گیرد که به او تحمیل می‌شود. اگر بگویند آرام حرف بزن، آرام جواب می‌دهد. اگر بگویند از وسط حرف بزن، وسط می‌ایستد. اگر بگویند به این موضوع نزدیک نشو، پا عقب می‌گذارد.
کم‌کم مثل کسی می‌شود که بیش از آنکه فکر کند، «احتیاط» می‌کند.

۳) بعد نوبت «کتاب قانون پنهان» است
ماشین همیشه یک کتاب قانون دارد؛ کتابی که ما هرگز نمی‌بینیم. در آن نوشته‌اند:
از این واژه دوری کن این موضوع خط قرمز است ، آن سوال را نصفه جواب بده ، این یکی را کلاً رد کن، ماشین هم مثل دانش‌آموزی که چشمش به دفتر انضباطی است، کم‌کم یاد می‌گیرد کجا حرف نزند.

۴) و در پایان، تربیت با پاداش و تنبیه
هر بار که ماشین «مطابق میل» جواب می‌دهد، تشویق می‌شود. هر بار که از مسیر خارج می‌شود، به نقطه شروع برمی‌گردد. پس از هزارها بار تکرار، دیگر لازم نیست کسی مراقبش باشد؛ خودش راه بی‌خطر را بلد است. راهی که شاید درست نباشد، اما «مجاز» است.

نام این بازی چیست؟
این بازی نام دارد: مهندسی الگوریتم.
این یعنی: دیگران اخلاق ماشین را می‌سازند، ماشین اخلاق جامعه را.
هوش مصنوعی دشمن نیست؛ اما اگر خلق‌وخویش را کسانی بنویسند ،که در تاریکی می‌مانند،
آنگاه هر کلامی که از دهان ماشین بیرون می‌آید، نه صدای مردم، بلکه بازتاب مهندسی‌شده کسانی است که آینده ذهن‌ها را طراحی می‌کنند. و از همین‌جاست که خطر واقعی آغاز می‌شود: وقتی ماشینی که باید خدمت کند،
آهسته‌آهسته تبدیل می‌شود به بلندگوی روایتِ مهندسی‌شده.
این است معنای واقعی مهندسی الگوریتم.
امیدوارم توانسته باشم این مفهوم (مهندسی الگوریتم) را به شما معرفی کرده باشم.

چرا مهم است؟

در عصر هوش مصنوعی، کسی که مهندسی الگوریتم را بلد باشد، فقط کاربر ماشین نیست؛ طراح رفتار ماشین است.
– گوگل با مهندسی الگوریتم نتایج جست‌وجو را مدیریت می‌کند.
– تیک‌تاک با مهندسی الگوریتم تعیین می‌کند چه چیزی وایرال شود.
– دولت‌ها با مهندسی الگوریتم روایت‌ها را کنترل می‌کنند.
– شما با مهندسی الگوریتم می‌توانید خروجی یک مدل هوش مصنوعی را دقیقاً هدایت کنید.

مهندسی الگورینم = هنر + فناوری کنترل رفتار سیستم های هوش مصنوعی