האם AI יכול להשמיד את האנושות?

❓שאלה:
חוקר AI ו-Anthropic לשעבר ג'ייקוב קוקסון עזב את התעשייה מחשש ש-AI עלול להשמיד את האנושות. והוא אומר: "אנשים שיוצרים AI מאמינים בכנות שהוא יכול להרוג את כולנו עד סוף העשור". אין לי פחד בנושא הזה, אבל אני מאוד מתעניין בדעתכם, האם דבר כזה יכול בכל זאת לקרות.
❗️תשובה מאת לי:
מתוך פחד אדם יכול ליצור הסתברויות של אותם אירועים שאינם משרתים אותו. ככל שמשקיעים בכך יותר תשומת לב, כך ההסתברויות האלה נדלקות יותר.
אם מעניין אתכם מה אפשר ליצור מתוך פחד, הרי שעל פני כדור הארץ יש רשימה ארוכה, המתחילה בנטילת ויטמינים תמימים. עם זאת, ה-AI נמצא אי שם במקום ה-27, בפיגור ניכר אחרי טכנולוגיות ההשמדה העצמית שכבר נוצרו.
רוצים להעמיק בנושאים האלה או שיש משהו מועיל באופק? 😊