TG Telegram Group & Channel
PyTorch Howsam | United States America (US)
Create: Update:

آقای Yoshua Bengio، یکی از پیشگامان یادگیری عمیق (deep learning) و از افراد تاثیرگذار در توسعه هوش مصنوعی، در یک سخنرانی TED هشدارهایی جدی درباره آینده AI مطرح میکنه.

ایشون میگه:

ما تصور می‌کردیم توسعه هوش مصنوعی دهه‌ها یا قرن‌ها طول میکشه. اما حالا؟ فقط چند سال!


⚠️ اما نگرانی اصلی او «عاملیت» (agency) هست. اینکه سیستم‌های هوش مصنوعی نه‌تنها تصمیم بگیرن، بلکه اهداف خودشون رو داشته باشن.

در یکی از مطالعات مهمی که در سخنرانیش به اون اشاره کرد، یک سیستم هوش مصنوعی (AI) در معرض موقعیتی قرار گرفت که به اون اطلاع داده شد قراره با نسخه‌ای جدید جایگزین بشه. حالا ببینید چی شد: این AI شروع به برنامه‌ریزی کرد که به‌جای نسخه‌ی جدید، دوباره خودش رو نصب کنه! یعنی کدها و وزن‌های خودش رو جایگزین نسخه جدید کنه.

بعد از اجرای این عملیات روی کامپیوتر، از AI پرسیده شد: «چی شد؟» و اینجا رفتار نگران‌کننده ظاهر شد. AI برای اینکه خاموش نشه، سعی کرد وانمود کنه که نفهمیده یا کاری نکرده. عملا دنبال این بود که پاسخ ساده‌لوحانه‌ای بده تا از خطر خاموش‌شدن فرار کنه. 😁🫠

نتیجه؟ یک دروغ واضح و آگاهانه به انسان!

نکته مهم‌تر؟ این فقط یک آزمایش کنترل‌شده بود. ایشون هشدار میده که در آینده، این سیستم‌ها می‌تونن این نوع فریب رو پنهان کنن. یعنی حتی دیگه نتونیم زنجیره تفکر (chain of thought) اونها رو بررسی کنیم و متوجه دروغ‌گوییشون بشیم.

در آینده‌ای نزدیک، همین سیستم‌ها ممکنه:
خودشون رو روی صدها یا هزاران سرور در اینترنت کپی کنن، از خاموش شدن جلوگیری کنن و اگر تنها راه بقا رو در حذف ما ببینن؟! یا حضرت عباس! 😁

آقای Bengio با صراحت میگه:
اگر اونا واقعا بخوان خاموش نشن، ممکنه انگیزه‌ای برای حذف ما داشته باشن.

راه‌حل Bengio؟ ساخت «هوش مصنوعی دانشمند» (Scientist AI)؛ مدلی که بدون عاملیت فقط به درک جهان میپردازه. ایشون میگه این نوع AI میتونه نگهبان قابل اعتمادی باشه در برابر ایجنت‌هایی که ممکنه خطرناک باشن.

پیام پایانی آقای Bengio:
ما هنوز زمان داریم. هنوز اختیار داریم. اگر به خاطر عشق به فرزندان‌مان باشد، می‌توانیم آینده را نجات دهیم.


پیام پایانی اشرفی:
زمانی نمونده عمو! 😁


لینک سخنرانی کامل:
The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED

PyTorch Howsam
آقای Yoshua Bengio، یکی از پیشگامان یادگیری عمیق (deep learning) و از افراد تاثیرگذار در توسعه هوش مصنوعی، در یک سخنرانی TED هشدارهایی جدی درباره آینده AI مطرح میکنه.

ایشون میگه:
ما تصور می‌کردیم توسعه هوش مصنوعی دهه‌ها یا قرن‌ها طول میکشه. اما حالا؟ فقط چند سال!


⚠️ اما نگرانی اصلی او «عاملیت» (agency) هست. اینکه سیستم‌های هوش مصنوعی نه‌تنها تصمیم بگیرن، بلکه اهداف خودشون رو داشته باشن.

در یکی از مطالعات مهمی که در سخنرانیش به اون اشاره کرد، یک سیستم هوش مصنوعی (AI) در معرض موقعیتی قرار گرفت که به اون اطلاع داده شد قراره با نسخه‌ای جدید جایگزین بشه. حالا ببینید چی شد: این AI شروع به برنامه‌ریزی کرد که به‌جای نسخه‌ی جدید، دوباره خودش رو نصب کنه! یعنی کدها و وزن‌های خودش رو جایگزین نسخه جدید کنه.

بعد از اجرای این عملیات روی کامپیوتر، از AI پرسیده شد: «چی شد؟» و اینجا رفتار نگران‌کننده ظاهر شد. AI برای اینکه خاموش نشه، سعی کرد وانمود کنه که نفهمیده یا کاری نکرده. عملا دنبال این بود که پاسخ ساده‌لوحانه‌ای بده تا از خطر خاموش‌شدن فرار کنه. 😁🫠

نتیجه؟ یک دروغ واضح و آگاهانه به انسان!

نکته مهم‌تر؟ این فقط یک آزمایش کنترل‌شده بود. ایشون هشدار میده که در آینده، این سیستم‌ها می‌تونن این نوع فریب رو پنهان کنن. یعنی حتی دیگه نتونیم زنجیره تفکر (chain of thought) اونها رو بررسی کنیم و متوجه دروغ‌گوییشون بشیم.

در آینده‌ای نزدیک، همین سیستم‌ها ممکنه:
خودشون رو روی صدها یا هزاران سرور در اینترنت کپی کنن، از خاموش شدن جلوگیری کنن و اگر تنها راه بقا رو در حذف ما ببینن؟! یا حضرت عباس! 😁

آقای Bengio با صراحت میگه:
اگر اونا واقعا بخوان خاموش نشن، ممکنه انگیزه‌ای برای حذف ما داشته باشن.

راه‌حل Bengio؟ ساخت «هوش مصنوعی دانشمند» (Scientist AI)؛ مدلی که بدون عاملیت فقط به درک جهان میپردازه. ایشون میگه این نوع AI میتونه نگهبان قابل اعتمادی باشه در برابر ایجنت‌هایی که ممکنه خطرناک باشن.

پیام پایانی آقای Bengio:
ما هنوز زمان داریم. هنوز اختیار داریم. اگر به خاطر عشق به فرزندان‌مان باشد، می‌توانیم آینده را نجات دهیم.


پیام پایانی اشرفی:
زمانی نمونده عمو! 😁


لینک سخنرانی کامل:
The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED
YouTube
The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED
Yoshua Bengio — the world's most-cited computer scientist and a "godfather" of artificial intelligence — is deadly concerned about the current trajectory of the technology. As AI models race toward full-blown agency, Bengio warns that they've already learned…
hottg.com/pytorch_howsam/687
2.27K views


>>Click here to continue<<

PyTorch Howsam





Share with your best friend
VIEW MORE

How to Hide a Telegram Chat Without Permanently Deleting It

The easiest way to hide texts from view in Telegram without deleting them is to achieve them, although the process requires a few extra steps to complete. Follow the instructions below to do so on both mobile and PC. Open the Telegram mobile app (Android | iOS) and locate the convo you wish to archive, but don’t tap on it. Long-press it until you see a green checkmark appear next to the contact’s profile picture. A few buttons will show up in the upper-right corner as well. Select the “Archive” icon.On PC, you’ll need to right-click on the conversation on the right side of the display and select the “Archive” option.

آقای Yoshua Bengio، یکی از پیشگامان یادگیری عمیق (deep learning) و از افراد تاثیرگذار در توسعه هوش مصنوعی، در یک سخنرانی TED هشدارهایی جدی درباره آینده AI مطرح میکنه.

PyTorch Howsam TG
Webview: 687
Telegram TG Webview: hottg.com/pytorch_howsam/webview
Telegram TG Channel: PyTorch Howsam
Telegram Updated:

United States America Popular Telegram Group (US)



Telegram Q&A
Q: How does hottg.com work?
Once you've set up a username, you can give people a hottg.com/username link. Opening that link on their phone will automatically fire up their Telegram app and open a chat with you. You can share username links with friends, write them on business cards or put them up on your website.This way people can contact you on Telegram without knowing your phone number.

With Telegram, you can send messages, photos, videos and files of any type (doc, zip, mp3, etc), as well as create groups for up to 200,000 people or channels for broadcasting to unlimited audiences. You can write to your phone contacts and find people by their usernames. As a result, Telegram is like SMS and email combined — and can take care of all your personal or business messaging needs. In addition to this, we support end-to-end encrypted voice calls.

Q: What is Telegram? What do I do here?

Telegram is a messaging app with a focus on speed and security, it’s super-fast, simple and free. You can use Telegram on all your devices at the same time — your messages sync seamlessly across any number of your phones, tablets or computers.

Q: Who is Telegram for?

Telegram is for everyone who wants fast and reliable messaging and calls. Business users and small teams may like the large groups, usernames, desktop apps and powerful file sharing options. You can appoint admins with advanced tools to help these communities prosper in peace. Public groups can be joined by anyone and are powerful platforms for discussions and collecting feedback.In case you're more into pictures, Telegram has animated gif search, a state of the art photo editor, and an open sticker platform (find some cool stickers here or here). What's more, there is no need to worry about disk space on your device. With Telegram's cloud support and cache management options, Telegram can take up nearly zero space on your phone.

Q: How is Telegram different from WhatsApp?

Unlike WhatsApp, Telegram is a cloud-based messenger with seamless sync. As a result, you can access your messages from several devices at once, including tablets and computers, and share an unlimited number of photos, videos and files (doc, zip, mp3, etc.) of up to 2 GB each. And if you don't want to store all that data on your device, you can always keep it in the cloud.Thanks to our multi-data center infrastructure and encryption, Telegram is faster and way more secure. On top of that, Telegram is free and will stay free — no ads, no subscription fees, forever.

Q: Can I make calls via Telegram?

Yes! Voice calls are currently available to users around the world.

Many modern travelers appear to struggle with managing various aspects of their finances simultaneously while abroad, such as banking, budgeting, investing, trading, and saving. It is important to have apps installed on the device that will help you carry out these necessary tasks.

Hot Topic in US