1
00:00:02,000 --> 00:00:07,000
Downloaded from
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Official YIFY movies site:
YTS.MX

3
00:00:24,065 --> 00:00:26,818
‫בעיניי, בינה מלאכותית היא מעוררת יראה.‬

4
00:00:28,361 --> 00:00:31,489
‫טוב, מקיפים מעל. הם במבנה טוב.‬

5
00:00:33,116 --> 00:00:36,703
‫לבינה המלאכותית יש פוטנציאל לחסל את העוני,‬

6
00:00:36,786 --> 00:00:38,705
‫לתת לנו תרופות חדשות‬

7
00:00:39,330 --> 00:00:41,583
‫ולהפוך את העולם לשלו אפילו יותר.‬

8
00:00:46,087 --> 00:00:46,921
‫יפה מאוד.‬

9
00:00:49,883 --> 00:00:53,428
‫אבל ישנם הרבה סיכונים בדרך.‬

10
00:01:04,773 --> 00:01:06,316
‫בכל הקשור לבינה המלאכותית,‬

11
00:01:06,399 --> 00:01:11,863
‫אנו יוצרים אינטליגנציה שאינה אנושית,‬
‫והיא מאוד לא צפויה.‬

12
00:01:14,407 --> 00:01:16,451
‫ככל שהיא משתכללת יותר,‬

13
00:01:16,534 --> 00:01:22,665
‫היכן יימצא הגבול שנקבע לבינה המלאכותית‬
‫בכל הקשור לדרכים בהן נשתמש או לא נשתמש בה?‬

14
00:01:25,001 --> 00:01:31,049
‫אין דבר שעומד בבסיס שיחה זו‬
‫יותר מאשר בינה מלאכותית בשימוש צבאי.‬

15
00:01:34,010 --> 00:01:38,890
‫שדה הקרב הפך לממלכת התוכנה והחומרה.‬

16
00:01:41,059 --> 00:01:42,936
‫המטרה זוהתה…‬

17
00:01:43,019 --> 00:01:48,399
‫וצבאות שונים מנסים להקדים את יריביהם‬
‫בפיתוח קדחתני של בינה מלאכותית.‬

18
00:01:49,526 --> 00:01:50,360
‫אני מת.‬

19
00:01:53,780 --> 00:01:55,281
‫אנו מתקדמים בצעדי ענק‬

20
00:01:55,365 --> 00:02:00,537
‫לעולם שבו אלה אינם הצבאות בלבד,‬
‫אלא גם שחקנים שאינם מדיניים,‬

21
00:02:01,371 --> 00:02:02,997
‫כולל גורמים בתעשייה הפרטית,‬

22
00:02:03,081 --> 00:02:06,042
‫או אפילו תחנת המשטרה הקרובה אלינו,‬

23
00:02:06,543 --> 00:02:10,046
‫כל אלו יוכלו להשתמש בכלי נשק‬
‫שהורגים באופן אוטונומי.‬

24
00:02:12,006 --> 00:02:17,303
‫האם ניתן לאלגוריתם, לתוכנת מחשב,‬
‫את הסמכות להחליט ליטול חיים?‬

25
00:02:18,638 --> 00:02:20,348
‫זהו מהנושאים החשובים בזמננו.‬

26
00:02:20,431 --> 00:02:22,016
‫- החנונים האלה יהרגו אותנו -‬

27
00:02:23,935 --> 00:02:26,354
‫אם לא נשתמש בבינה בחוכמה,‬

28
00:02:26,437 --> 00:02:30,275
‫כל אדם בעולם יהיה חשוף לסכנה חמורה.‬

29
00:02:41,828 --> 00:02:44,914
‫- אל הלא נודע -‬

30
00:02:46,833 --> 00:02:50,086
‫- רובוטים קטלניים -‬

31
00:03:28,291 --> 00:03:30,168
‫כל הכבוד, חבר'ה.‬

32
00:03:59,948 --> 00:04:02,200
‫אלה עדשות הרבה יותר רחבות משהיו לנו.‬

33
00:04:02,283 --> 00:04:03,117
‫באמת?‬

34
00:04:03,201 --> 00:04:04,786
‫אפשר לראות הרבה יותר מידע.‬

35
00:04:05,286 --> 00:04:06,287
‫מגניב מאוד.‬

36
00:04:07,538 --> 00:04:11,167
‫ב"שילד AI",‬
‫אנחנו בונים טייס מבוסס בינה מלאכותית‬

37
00:04:11,251 --> 00:04:14,879
‫תוך שימוש בבינה מלאכותית‬
‫שיועדה במקור לנהיגה אוטונומית,‬

38
00:04:14,963 --> 00:04:16,631
‫אך מיושמת בכלי טיס.‬

39
00:04:19,300 --> 00:04:21,719
‫כשאנחנו מדברים על טייס AI,‬

40
00:04:21,803 --> 00:04:25,139
‫אנו רוצים לתת לכלי הטיס‬
‫דרגת אוטונומיות גבוהה יותר.‬

41
00:04:25,223 --> 00:04:27,850
‫הם יפתרו בעיות בעצמם.‬

42
00:04:29,602 --> 00:04:32,355
‫"נובה" הוא רחפן אוטונומי בעל ארבעה להבים‬

43
00:04:32,438 --> 00:04:38,611
‫אשר סורק בניינים ומבנים תת-קרקעיים‬
‫לפני שליחת כוחות קרקע,‬

44
00:04:38,695 --> 00:04:41,322
‫ותפקידו לשמש כעיניים וכאוזניים בגזרה.‬

45
00:04:41,906 --> 00:04:45,618
‫אפשר לשים לב להמון שיפורים‬
‫מאז הפעם האחרונה שראינו אותו.‬

46
00:04:45,702 --> 00:04:50,248
‫היום נעבוד על שינויים בביצוע סריקת שטח.‬
‫אנחנו עובדים קצת על סריקת קומות בניין.‬

47
00:04:50,331 --> 00:04:53,584
‫הרחפן יסרוק כל חדר בקומה אחת‬
‫לפני שימשיך לקומה השנייה.‬

48
00:04:54,294 --> 00:04:56,796
‫זה מעולה.‬
‫-הוספנו כמה שינויים לאחרונה…‬

49
00:04:56,879 --> 00:05:02,176
‫הרבה אנשים שואלים אותי‬
‫מדוע הבינה המלאכותית היא יכולת חשובה.‬

50
00:05:02,260 --> 00:05:04,095
‫- ברנדון צנג‬
‫יוצא "אריות הים" -‬

51
00:05:04,178 --> 00:05:06,973
‫אז אני נזכר במשימות שביצעתי.‬

52
00:05:09,142 --> 00:05:10,935
‫שירתי שבע שנים בצי.‬

53
00:05:11,561 --> 00:05:15,273
‫השתייכתי ליחידת אריות הים‬
‫ולחמתי פעמיים באפגניסטן‬

54
00:05:15,356 --> 00:05:17,191
‫וגם בזירת האוקיינוס השקט.‬

55
00:05:18,026 --> 00:05:22,947
‫ביום נתון,‬
‫יכולנו לעסוק באבטחת 150 מתחמים או מבנים.‬

56
00:05:30,955 --> 00:05:34,250
‫אחת מיכולות המפתח במצב זה‬
‫היא התפקוד בלוחמה בשטח בנוי.‬

57
00:05:35,293 --> 00:05:39,172
‫קרבות ירי, לעיתים פנים אל פנים, במבנים.‬

58
00:05:41,466 --> 00:05:42,967
‫יורים עליך.‬

59
00:05:43,468 --> 00:05:46,220
‫הבניין עשוי להיות ממולכד במטענים מאולתרים.‬

60
00:05:49,015 --> 00:05:51,976
‫זה המצב הקרבי המסוכן ביותר‬

61
00:05:52,060 --> 00:05:58,358
‫עבור איש צוות ביחידה מיוחדת או חייל חי"ר.‬

62
00:05:58,441 --> 00:05:59,275
‫בלי ספק.‬

63
00:06:12,497 --> 00:06:16,334
‫כל חיי אהיה אסיר תודה על הזמן שביליתי בצי.‬

64
00:06:17,168 --> 00:06:22,423
‫מדובר באוסף של רגעים וזיכרונות,‬
‫וכשאני חושב עליהם,‬

65
00:06:22,507 --> 00:06:24,592
‫אני מתמלא רגש, אין ספק.‬

66
00:06:28,346 --> 00:06:32,725
‫אולי נדוש לומר שהחירות לא ניתנת בחינם,‬
‫אבל אני מאמין בזה ב-100%,‬

67
00:06:33,559 --> 00:06:37,105
‫חוויתי את זה‬
‫ואני יודע מה צריך להקריב למענה.‬

68
00:06:38,022 --> 00:06:38,856
‫סליחה.‬

69
00:06:41,067 --> 00:06:44,570
‫כשמשהו רע קורה למישהו ביחידה שלך,‬

70
00:06:44,654 --> 00:06:46,614
‫בין אם הוא נפצע או נהרג,‬

71
00:06:47,490 --> 00:06:49,700
‫מדובר בטרגדיה.‬

72
00:06:49,784 --> 00:06:51,661
‫אתם יודעים, מבחינתי,‬

73
00:06:51,744 --> 00:06:56,541
‫בכל הקשור לעבודה שאנחנו עושים,‬
‫ארגיש סיפוק אם אוכל…‬

74
00:06:56,624 --> 00:07:00,336
‫אתם יודעים, להפחית את מספר המקרים האלה‬
‫כדי שלא יקרו לעולם.‬

75
00:07:07,176 --> 00:07:11,556
‫בסוף שנות האלפיים, מחלקת ההגנה גילתה,‬

76
00:07:11,639 --> 00:07:16,436
‫כמעט באופן מקרי, את המהפכה הרובוטית.‬
‫באוויר ובקרקע, פרשנו…‬

77
00:07:16,519 --> 00:07:18,229
‫- פול שאר‬
‫סופר, "צבא של איש" -‬

78
00:07:18,312 --> 00:07:20,314
‫אלפי רובוטים בעיראק ובאפגניסטן.‬

79
00:07:21,482 --> 00:07:26,404
‫כשנתבקשתי על ידי ממשל אובמה‬
‫לקבל את תפקיד סגן שר ההגנה,‬

80
00:07:26,904 --> 00:07:28,948
‫היה ברור שהלוחמה השתנתה.‬

81
00:07:29,031 --> 00:07:31,117
‫- בוב וורק‬
‫סגן שר ההגנה, 2014-2017 -‬

82
00:07:32,452 --> 00:07:36,330
‫הרובוטים החליפו את מקומם של בני האדם.‬

83
00:07:37,999 --> 00:07:40,376
‫מערכות רובוטיות מוקדמות נשלטו מרחוק.‬

84
00:07:40,460 --> 00:07:45,173
‫היה אדם שנהג וכיוון את הרובוט,‬
‫בדומה למכונית המופעלת בשלט רחוק.‬

85
00:07:46,632 --> 00:07:51,512
‫בתחילה, הרובוטים נשלחו לרוב‬
‫לסרוק ולזהות מטעני נפץ מאולתרים,‬

86
00:07:52,013 --> 00:07:54,849
‫ואם המטען התפוצץ, גם הרובוט התפוצץ.‬

87
00:07:57,393 --> 00:08:00,396
‫אז חשבת, "חבל. טוב, נביא את הרובוט הבא".‬

88
00:08:02,273 --> 00:08:04,484
‫באפגניסטן קיבלנו סיוע מכטב"ם "פרדטור"‬

89
00:08:05,276 --> 00:08:09,739
‫והוא הפך לכלי תקיפה אווירית יעיל מאוד.‬

90
00:08:13,117 --> 00:08:16,829
‫עם הזמן, מהנדסים צבאיים החלו לתהות,‬

91
00:08:16,913 --> 00:08:18,915
‫"מה עוד יוכלו רובוטים לעשות?"‬

92
00:08:18,998 --> 00:08:20,791
‫ולאן כל זה הוביל?‬

93
00:08:20,875 --> 00:08:24,170
‫אחד מהדברים שחזרו שוב ושוב‬
‫הייתה נטייה לאוטונומיה נרחבת.‬

94
00:08:26,506 --> 00:08:30,551
‫נשק אוטונומי מחליט החלטות בעצמו,‬

95
00:08:30,635 --> 00:08:34,889
‫תוך התערבות אנושית מינימלית או אפסית.‬
‫לנשק יש יכולת עצמאית המתנהלת מאליה.‬

96
00:08:34,972 --> 00:08:37,558
‫- סטייסי פטיג'ון‬
‫המרכז לביטחון אמריקני חדש -‬

97
00:08:38,434 --> 00:08:41,604
‫יכולתו של הנשק להרוג‬
‫תלויה רק במידת החימוש שלו.‬

98
00:08:43,314 --> 00:08:47,026
‫כשחלקים גדולים מכלל המערכת שלך‬
‫הופכים לאוטונומיים,‬

99
00:08:47,109 --> 00:08:49,779
‫הכול מתחיל לקרות במהירות גדולה הרבה יותר.‬

100
00:08:51,989 --> 00:08:56,869
‫וכשאתה מתפקד מהר יותר מהיריב,‬

101
00:08:57,453 --> 00:09:01,165
‫מדובר ביתרון עצום בקרב.‬

102
00:09:03,960 --> 00:09:09,966
‫בכל הקשור לאוטונומיה,‬
‫אנו מתמקדים במערכות בינה המסתגלות ללא הרף.‬

103
00:09:12,051 --> 00:09:15,304
‫מערכות המסוגלות לסקור ולהגיב‬
‫בהתבסס על סביבתן‬

104
00:09:15,805 --> 00:09:19,642
‫ולהחליט כיצד לתמרן באותו עולם נתון.‬

105
00:09:21,602 --> 00:09:24,897
‫- סן דייגו‬
‫קליפורניה -‬

106
00:09:24,981 --> 00:09:26,857
‫המתקן הזה נבנה כאולפן סרטים…‬

107
00:09:26,941 --> 00:09:30,611
‫- מתקן הכשרה מבצעית‬
‫לאימונים טקטיים בסביבה היפר-ריאליסטית -‬

108
00:09:30,695 --> 00:09:34,156
‫והוסב למתקן המאפשר‬
‫את האימונים הצבאיים הריאליסטיים האלה.‬

109
00:09:39,495 --> 00:09:43,291
‫הגענו לכאן כדי לבחון את טייס ה-AI שלנו.‬

110
00:09:44,625 --> 00:09:49,297
‫משימתו תהיה איתור איומים. זהו כוח טיהור.‬

111
00:09:49,380 --> 00:09:52,800
‫הוא יוכל להחליט כיצד לתקוף את הבעיה.‬

112
00:09:55,428 --> 00:09:59,390
‫אנו קוראים לזה "המשפך הקטלני".‬
‫זהו מצב בו יש להיכנס דרך פתח.‬

113
00:10:01,726 --> 00:10:03,728
‫זה הרגע בו אנחנו פגיעים ביותר.‬

114
00:10:03,811 --> 00:10:05,146
‫זה נראה יותר טוב.‬

115
00:10:07,106 --> 00:10:10,151
‫נובה יעדכן אותנו‬
‫במידה ויימצא חמוש מאחורי הדלת הזו,‬

116
00:10:10,818 --> 00:10:12,820
‫או במידה ונמצאת משפחה מאחורי הדלת.‬

117
00:10:15,031 --> 00:10:17,033
‫כך נדע להחליט כיצד להימנע מנפגעים.‬

118
00:10:17,116 --> 00:10:18,451
‫- מארק מייסון‬
‫שילד AI -‬

119
00:10:57,114 --> 00:10:59,367
‫אנו משתמשים בחיישני תמונה‬

120
00:10:59,450 --> 00:11:03,162
‫כדי להבין כיצד נראית הסביבה.‬

121
00:11:04,997 --> 00:11:06,415
‫זה בניין רב-קומות.‬

122
00:11:07,333 --> 00:11:08,334
‫זו המפה.‬

123
00:11:08,417 --> 00:11:11,671
‫כשסרקתי את המבנה,‬
‫הנה הדברים שראיתי כמו גם מיקומם.‬

124
00:11:19,929 --> 00:11:22,098
‫גלאי בני אדם. זה חמוד.‬

125
00:11:23,891 --> 00:11:27,061
‫לנובה יש גם חיישן תרמי.‬

126
00:11:27,561 --> 00:11:30,690
‫אם מתקבלת טמפרטורה של 37 מעלות,‬
‫זה כנראה בן אדם.‬

127
00:11:32,358 --> 00:11:35,861
‫כל עוד לא הוגדר אחרת,‬
‫היחידה הזו רואה בבני האדם כאיום.‬

128
00:11:38,906 --> 00:11:43,244
‫אנו מעוניינים בנטרול ערפל הקרב‬
‫כדי להגיע להחלטות טובות יותר.‬

129
00:11:44,704 --> 00:11:46,539
‫וכשאנו מביטים לעתיד,‬

130
00:11:47,039 --> 00:11:50,793
‫אנו מצפים לייצור נרחב‬
‫של כלי טיס אוטונומיים.‬

131
00:11:53,754 --> 00:11:57,591
‫גם בכלי רכב ללא נהג, אדם כלשהו מחליט:‬
‫"סע מנקודה א' ל-ב'."‬

132
00:11:57,675 --> 00:11:59,802
‫- נתן מייקל‬
‫מנהל טכני ראשי, שילד AI -‬

133
00:12:02,972 --> 00:12:06,475
‫איננו מבקשים מהמערכות שלנו‬
‫לנוע מנקודה א' לנקודה ב',‬

134
00:12:06,559 --> 00:12:08,477
‫המערכות שלנו מתבקשות לעמוד ביעד.‬

135
00:12:10,312 --> 00:12:13,190
‫הדבר דומה ל"אני צריך חלב".‬

136
00:12:13,274 --> 00:12:17,486
‫ואז הרובוט יצטרך להבין לאיזו חנות להגיע,‬

137
00:12:17,570 --> 00:12:20,239
‫יהיה עליו לקחת את החלב ולהחזיר אותו.‬

138
00:12:20,740 --> 00:12:27,037
‫יותר מכך, אולי נכון יותר לומר,‬
‫"ודא שיש מספיק אוכל במקרר".‬

139
00:12:27,538 --> 00:12:32,168
‫אז תידרש רמה מסוימת של אינטליגנציה‬
‫כדי להבין מה זקוק לנו ומה יש לעשות.‬

140
00:12:32,251 --> 00:12:34,253
‫אם מתגלה אתגר או בעיה,‬

141
00:12:34,336 --> 00:12:37,381
‫אם קיים עניין כלשהו,‬
‫נרצה שהמערכת תדע לפתור אותו.‬

142
00:12:40,801 --> 00:12:45,431
‫כשהחלטתי לעזוב את הצי, התחלתי לחשוב,‬

143
00:12:45,514 --> 00:12:47,558
‫"טוב, מה אעשה עכשיו?"‬

144
00:12:49,143 --> 00:12:52,021
‫גדלתי עם האינטרנט. ראיתי אותה מתהווה.‬

145
00:12:53,189 --> 00:12:55,608
‫וחלק מהמסקנה שהגעתי אליה היה…‬

146
00:12:56,108 --> 00:13:02,907
‫בשנת 2015, הבינה המלאכותית‬
‫נמצאה במקום בו הייתה האינטרנט ב-1991.‬

147
00:13:04,033 --> 00:13:06,285
‫והבינה המלאכותית עמדה להמריא‬

148
00:13:06,368 --> 00:13:09,747
‫ולהפוך לאחת הטכנולוגיות החזקות בעולם.‬

149
00:13:11,791 --> 00:13:16,212
‫אני עובד עם בינה מלאכותית בכל יום‬
‫ורואה כמה היא התקדמה.‬

150
00:13:19,048 --> 00:13:25,221
‫אבל הרבה אנשים חושבים על בינה מלאכותית‬
‫ושואבים את תפיסתם עליה מהוליווד.‬

151
00:13:26,639 --> 00:13:28,474
‫- תל"מ‬
‫תגובה למהלכים מלחמתיים -‬

152
00:13:28,557 --> 00:13:29,975
‫שנשחק משחק?‬

153
00:13:30,059 --> 00:13:35,314
‫אולי מלחמה תרמו-גרעינית עולמית?‬

154
00:13:35,898 --> 00:13:36,816
‫בסדר.‬

155
00:13:37,399 --> 00:13:38,776
‫- בריה"מ ארה"ב‬
‫בחירתך? -‬

156
00:13:38,859 --> 00:13:44,824
‫לרוב, כשאנשים חושבים על בינה מלאכותית‬
‫הם נזכרים ב"שליחות קטלנית" וב"אני, רובוט".‬

157
00:13:45,574 --> 00:13:46,700
‫השבת!‬

158
00:13:46,784 --> 00:13:48,160
‫מה אני?‬

159
00:13:48,244 --> 00:13:49,620
‫או ב"מטריקס".‬

160
00:13:51,080 --> 00:13:53,749
‫בהתבסס על המוכר לנו מסרטי מדע בדיוני,‬

161
00:13:53,833 --> 00:13:57,878
‫איך תדע שאני בן אדם?‬
‫אוכל להיות יצירה ממוחשבת של בינה מלאכותית.‬

162
00:13:58,379 --> 00:14:02,132
‫הרפליקנטים דומים לכל מכונה אחרת.‬
‫הם עשויים להיות יתרון או מטרד.‬

163
00:14:02,675 --> 00:14:07,388
‫אבל גם צורות פרימיטיביות של בינה מלאכותית‬
‫יוכלו עדיין לשנות את חיינו…‬

164
00:14:07,471 --> 00:14:09,682
‫- אנדרו יאנג‬
‫פוליטיקאי ויזם טכנולוגי -‬

165
00:14:09,765 --> 00:14:11,851
‫עוד לפני שנגיע לרובוט החושב והמדבר.‬

166
00:14:12,643 --> 00:14:15,771
‫הרובוטים כאן. הם מקבלים החלטות.‬

167
00:14:15,855 --> 00:14:17,731
‫מהפכת הרובוטים הגיעה…‬

168
00:14:17,815 --> 00:14:20,067
‫- מרדית' ברוסרד‬
‫מומחית עיתונות נתונים -‬

169
00:14:20,150 --> 00:14:22,319
‫היא פשוט לא דומה למה שאיש דמיין.‬

170
00:14:23,320 --> 00:14:26,740
‫המחסל הוא יחידה מסתננת.‬
‫חלקו אדם וחלקו מכונה.‬

171
00:14:27,950 --> 00:14:31,370
‫לא מדובר ברובוט דוגמת "המחסל"‬
‫כמו ב"שליחות קטלנית".‬

172
00:14:31,871 --> 00:14:36,000
‫זוהי בינה מלאכותית‬
‫היכולה לבצע כמה מהתפקידים שממלאים בני אדם.‬

173
00:14:36,083 --> 00:14:39,879
‫אך קיים ספק בנוגע למהימנות המערכות הללו.‬

174
00:14:40,462 --> 00:14:45,426
‫פרטים חדשים בנוגע לתאונה הקטלנית‬
‫בה היה מעורב רכב ללא נהג של "אובר".‬

175
00:14:45,509 --> 00:14:47,344
‫- הרובוט הגזעני של מיקרוסופט -‬

176
00:14:47,428 --> 00:14:51,056
‫החברה יצרה צ'אט בוט מבוסס בינה מלאכותית.‬
‫היא נקטה בטון גזעני…‬

177
00:14:51,265 --> 00:14:55,394
‫עשרים ושישה מחוקקים מקומיים‬
‫זוהו בטעות כעבריינים.‬

178
00:14:55,477 --> 00:14:58,856
‫- תוכנת זיהוי הפנים של אמזון‬
‫מזהה 28 חברי קונגרס כפושעים -‬

179
00:14:58,939 --> 00:15:02,651
‫קיים ספק ביחס ליכולת של מערכות אלה‬
‫להתמודד בעולם האמיתי והמורכב.‬

180
00:15:03,360 --> 00:15:06,655
‫- קיימברידג'‬
‫מסצ'וסטס -‬

181
00:15:22,212 --> 00:15:24,006
‫העולם המוחשי הוא מקום מבולגן.‬

182
00:15:25,174 --> 00:15:27,426
‫יש הרבה דברים שאיננו יודעים,‬

183
00:15:27,968 --> 00:15:30,888
‫ולכן קשה הרבה יותר‬
‫לאמן את מערכות הבינה המלאכותית.‬

184
00:15:32,973 --> 00:15:34,475
‫וכאן משתלבת למידת המכונה.‬

185
00:15:34,558 --> 00:15:36,977
‫- פולקיט אגרוואל‬
‫מעבדת "לא סביר" לחקר AI -‬

186
00:15:38,520 --> 00:15:44,193
‫למידת מכונה הביאה להתקדמות עצומה,‬
‫מכיוון שכעת לא נצטרך ללמד את המחשב הכול.‬

187
00:15:44,276 --> 00:15:45,611
‫- ניק בילטון‬
‫כתב חוקר -‬

188
00:15:47,905 --> 00:15:52,409
‫אפשר לתת למחשב מיליון פיסות מידע‬

189
00:15:52,493 --> 00:15:54,453
‫ואז המכונה תתחיל ללמוד בעצמה.‬

190
00:15:55,245 --> 00:15:57,289
‫ניתן ליישם עיקרון זה בכל תחום.‬

191
00:16:00,250 --> 00:16:01,919
‫בפרויקט הכלב הרובוטי שלנו‬

192
00:16:02,002 --> 00:16:09,009
‫אנו מנסים להראות שהכלב שלנו‬
‫מסוגל לצעוד במגוון רחב של סוגי שטח.‬

193
00:16:10,052 --> 00:16:14,098
‫במשך מיליארדי שנים,‬
‫ההליכה האנושית התפתחה כחלק מהאבולוציה,‬

194
00:16:14,932 --> 00:16:20,688
‫אך דרושה מידה רבה של אינטליגנציה‬
‫כדי להסתגל לשטחים שונים.‬

195
00:16:21,939 --> 00:16:24,191
‫זו השאלה ביחס למערכות הרובוטיות.‬

196
00:16:24,274 --> 00:16:27,069
‫האם הן יוכלו להסתגל‬
‫בדומה לבעלי חיים ולבני האדם?‬

197
00:16:35,953 --> 00:16:37,413
‫בלמידת מכונה‬

198
00:16:37,496 --> 00:16:40,582
‫אנו אוספים מידע רב מאוד תוך כדי סימולציה.‬

199
00:16:42,668 --> 00:16:45,838
‫הסימולציה היא התאומה הדיגיטלית של המציאות.‬

200
00:16:46,588 --> 00:16:52,052
‫במחשבים שונים‬
‫נוכל להפעיל מספר גרסאות של אותה מציאות.‬

201
00:16:53,178 --> 00:16:56,974
‫המערכת דוגמת אלפי פעולות במהלך הסימולציה.‬

202
00:16:58,892 --> 00:17:03,856
‫השטח בו תתמרן המערכת‬
‫עשוי להיות חלקלק או רך ברמות משתנות.‬

203
00:17:04,898 --> 00:17:09,903
‫אנו לוקחים את כל הניסיון‬
‫שצברו אלפי הרובוטים במהלך הסימולציה‬

204
00:17:09,987 --> 00:17:13,282
‫וטוענים את כל המידע הזה‬
‫במערכת רובוטית אמיתית.‬

205
00:17:15,492 --> 00:17:20,039
‫היום נבצע בדיקה‬
‫ובה נראה אם המערכת מסתגלת לתנאי שטח חדשים.‬

206
00:17:53,322 --> 00:17:55,491
‫כשהרובוט דרך על ספוג,‬

207
00:17:55,574 --> 00:17:58,577
‫תנועות הרגליים הפכו לרקיעות בקרקע.‬

208
00:17:59,369 --> 00:18:02,206
‫אך כשהרובוט הגיע למשטח הפורמייקה‬

209
00:18:03,248 --> 00:18:06,460
‫הוא ניסה להתאים את תנועתו כך שלא יחליק.‬

210
00:18:08,670 --> 00:18:10,672
‫אז אתה מבין,‬

211
00:18:10,756 --> 00:18:14,051
‫"זה מה שלמידת מכונה יודעת לעשות".‬

212
00:18:41,161 --> 00:18:44,123
‫לדעתנו, הכלב הרובוטי שלנו יביא תועלת רבה‬

213
00:18:44,206 --> 00:18:46,166
‫בתגובה ובהתמודדות עם תרחישי אסון,‬

214
00:18:46,250 --> 00:18:49,670
‫במצבים בהם יש צורך לתמרן‬
‫בין סוגים שונים של תוואי שטח.‬

215
00:18:52,631 --> 00:18:57,427
‫נוכל גם להציב את הכלבים האלה‬
‫כיחידות אבטחה בסביבה עוינת.‬

216
00:19:15,696 --> 00:19:22,369
‫אך רוב הטכנולוגיות נתקלות באתגר משותף,‬
‫הנוגע לטוב ולרע שהן מסוגלות לו.‬

217
00:19:24,079 --> 00:19:27,875
‫לדוגמה, נוכל להשתמש בטכנולוגיה גרעינית‬
‫לייצור אנרגייה…‬

218
00:19:30,419 --> 00:19:33,797
‫אך נוכל גם לפתח פצצות אטום, שהן רעות מאוד.‬

219
00:19:35,090 --> 00:19:38,468
‫זה המונח הידוע‬
‫כבעיית הטכנולוגיה הדו-שימושית.‬

220
00:19:39,052 --> 00:19:40,387
‫אש היא דו-שימושית.‬

221
00:19:40,470 --> 00:19:41,722
‫- מקס טגמארק‬
‫פיזיקאי -‬

222
00:19:41,805 --> 00:19:44,308
‫הבינה האנושית היא דו-שימושית.‬

223
00:19:44,391 --> 00:19:48,645
‫לכן ברור‬
‫שגם הבינה המלאכותית היא דו-שימושית.‬

224
00:19:49,354 --> 00:19:53,984
‫חשוב לחשוב על הבינה המלאכותית בהקשר הנכון,‬

225
00:19:54,693 --> 00:19:59,114
‫משום שבהחלט,‬
‫יהיה טוב להשתמש ברובוט למטרות חיפוש והצלה,‬

226
00:19:59,198 --> 00:20:02,284
‫כדי לאתר אדם לאחר מפולת שלגים.‬

227
00:20:02,868 --> 00:20:05,871
‫אך את אותו הרובוט ניתן גם לחמש.‬

228
00:20:15,088 --> 00:20:21,094
‫לעיתים נביט על חברות‬
‫המשתמשות ברובוטים רק כדי לחמש אותם,‬

229
00:20:21,178 --> 00:20:22,930
‫הדבר יוכל גם להכעיס אותנו.‬

230
00:20:23,931 --> 00:20:28,435
‫חלק מהכעס טמון בהבנה‬
‫שכשנפיץ את הטכנולוגיה שלנו,‬

231
00:20:28,518 --> 00:20:30,103
‫זה מה שהולך לקרות.‬

232
00:20:31,021 --> 00:20:34,441
‫זו טכנולוגיה מהפכנית.‬

233
00:20:36,235 --> 00:20:38,028
‫אלה מערכות נשק‬

234
00:20:38,111 --> 00:20:43,617
‫שיכולות להביא לשינוי אמיתי ודרמטי‬
‫במידת הבטיחות והביטחון שלנו.‬

235
00:20:46,161 --> 00:20:52,376
‫כרגע, טרם השתכנענו שהמכונות יודעות להבחין‬
‫בין אזרחים לבין חמושים.‬

236
00:20:52,459 --> 00:20:54,962
‫- איזומי נקמיטסו‬
‫שליחת האו"ם לנושאי פירוז -‬

237
00:21:01,885 --> 00:21:05,597
‫בתחילת המלחמה באפגניסטן,‬
‫השתייכתי לצוות צליפה מיחידת הריינג'רס‬

238
00:21:05,681 --> 00:21:08,016
‫וחיפשתי לוחמי אויב שהגיעו מעבר לגבול.‬

239
00:21:09,685 --> 00:21:12,521
‫הם שלחו ילדה קטנה לתצפת על העמדה שלנו.‬

240
00:21:13,939 --> 00:21:17,067
‫מעולם לא חשבנו לירות בילדה הזו.‬

241
00:21:19,695 --> 00:21:22,864
‫הדבר ייחשב לפשע מלחמה.‬

242
00:21:24,950 --> 00:21:27,369
‫הם לא קובעים גיל ללוחמי האויב.‬

243
00:21:29,079 --> 00:21:33,417
‫אם תייצר רובוט‬
‫שיציית באופן מושלם לדיני מלחמה,‬

244
00:21:33,500 --> 00:21:35,252
‫הוא היה יורה בילדה הזו.‬

245
00:21:36,420 --> 00:21:38,380
‫- פול שארה‬
‫יוצא יחידת הריינג'רס -‬

246
00:21:38,463 --> 00:21:41,091
‫איך רובוט יבחין‬
‫בין מה שחוקי לבין מה שצודק?‬

247
00:21:43,385 --> 00:21:46,054
‫בכל הקשור ללוחמת כלי טיס בלתי מאוישים,‬

248
00:21:46,138 --> 00:21:50,267
‫היא נועדה לצמצם את הפגיעה בגופם ובנפשם‬
‫של החיילים האמריקנים.‬

249
00:21:50,350 --> 00:21:52,686
‫- אראש אזיזאדה‬
‫"אפגנים לעתיד טוב יותר" -‬

250
00:21:52,769 --> 00:21:57,149
‫אך היו אלה האזרחים האפגנים ששילמו את המחיר‬

251
00:21:57,232 --> 00:21:58,775
‫כמו גם עיראקים וסומלים.‬

252
00:22:09,619 --> 00:22:14,416
‫הייתי רוצה לשאול‬
‫את התומכים בכטב"מים מבוססי בינה מלאכותית,‬

253
00:22:15,375 --> 00:22:18,211
‫"איך היית מרגיש‬
‫לו הכפר שלך היה על הכוונת?"‬

254
00:22:23,550 --> 00:22:25,594
‫הבינה המלאכותית היא חרב פיפיות.‬

255
00:22:26,595 --> 00:22:30,724
‫יש לה שימושים טובים,‬
‫ואלה השימושים בהם היינו בוחרים בדרך כלל,‬

256
00:22:31,558 --> 00:22:33,477
‫אך בלחיצת כפתור,‬

257
00:22:34,561 --> 00:22:38,023
‫הטכנולוגיה הזו הופכת‬
‫לדבר בעל פוטנציאל קטלני.‬

258
00:22:38,106 --> 00:22:40,233
‫- ראלי‬
‫קרוליינה הצפונית -‬

259
00:22:47,032 --> 00:22:48,533
‫אני רוקח קליני.‬

260
00:22:49,618 --> 00:22:52,954
‫אני משתייך לצוות המשתמש בבינה מלאכותית‬

261
00:22:53,038 --> 00:22:57,751
‫כדי למצוא תרופות‬
‫שירפאו מחלות שאינן זוכות לתשומת לב.‬

262
00:22:59,711 --> 00:23:05,467
‫בכל הקשור לתגליות במחקר תרופתי,‬
‫המפתח היה טמון בהכנסת שינוי במולקולה קיימת‬

263
00:23:05,550 --> 00:23:06,885
‫כדי ליצור תרופה חדשה.‬

264
00:23:08,261 --> 00:23:13,350
‫עכשיו פיתחנו בינה מלאכותית‬
‫שיכולה להזין אותנו במיליון רעיונות,‬

265
00:23:13,892 --> 00:23:15,227
‫במיליון מולקולות,‬

266
00:23:16,186 --> 00:23:20,399
‫והדבר פותח בפנינו אפשרויות עצומות‬
‫לריפוי מחלות שלא יכולנו לטפל בהן בעבר.‬

267
00:23:20,482 --> 00:23:22,567
‫- שון אקינס‬
‫מנכ"ל "תרופות משותפות" -‬

268
00:23:25,153 --> 00:23:29,741
‫אבל יש צד אפל שמעולם לא חשבתי שאפנה אליו.‬

269
00:23:33,161 --> 00:23:40,043
‫הכול התחיל כשהוזמנתי על ידי ארגון שווייצרי‬
‫בשם "מעבדת ספיז"‬

270
00:23:40,544 --> 00:23:44,423
‫ונתבקשתי להרצות‬
‫על שימושים פסולים אפשריים בבינה המלאכותית.‬

271
00:23:48,343 --> 00:23:50,345
‫שון שלח לי אימייל‬

272
00:23:50,429 --> 00:23:55,308
‫והעלה רעיונות ודרכים בהן נוכל לנצל לרעה‬
‫את מערכות הבינה המלאכותית שלנו.‬

273
00:23:56,059 --> 00:24:00,272
‫במקום לבקש מהמודל שלנו‬
‫ליצור מולקולות הדומות לתרופות,‬

274
00:24:00,355 --> 00:24:04,192
‫למטרת טיפול במחלות… "בואו ננסה‬
‫ליצור את המולקולות הרעילות אי פעם."‬

275
00:24:04,276 --> 00:24:06,403
‫- פאביו אורבינה‬
‫- "תרופות משותפות" -‬

276
00:24:10,198 --> 00:24:15,203
‫רציתי לשאול האם נוכל להשתמש בבינה מלאכותית‬
‫כדי לייצר מולקולות קטלניות.‬

277
00:24:17,414 --> 00:24:20,083
‫ולמען האמת, האמנו שניכשל,‬

278
00:24:20,167 --> 00:24:24,504
‫בגלל שהמאמץ שהשקענו הסתכם בהפיכת 0 ל-1.‬

279
00:24:26,715 --> 00:24:30,385
‫כשהפכנו את הקלט,‬
‫במקום לבקש להתרחק ככל הניתן מרעילות,‬

280
00:24:30,469 --> 00:24:32,220
‫ניסינו להתקרב לרעילות.‬

281
00:24:32,721 --> 00:24:33,555
‫וזהו זה.‬

282
00:24:37,517 --> 00:24:40,729
‫הלכתי הביתה והמחשב עבד.‬

283
00:24:41,521 --> 00:24:44,816
‫כלומר, הוא שקד ויצר אלפי מולקולות‬

284
00:24:45,650 --> 00:24:49,529
‫ולא היינו צריכים לעשות דבר,‬
‫רק לחצנו על כפתור.‬

285
00:24:54,493 --> 00:24:58,330
‫למחרת בבוקר הופיע קובץ על המחשב שלי‬

286
00:24:59,080 --> 00:25:03,376
‫ובתוכו היו כ-40 אלף מולקולות‬

287
00:25:03,460 --> 00:25:08,882
‫אשר עשויות להיות מהמולקולות הרעילות ביותר‬
‫הידועות לאדם.‬

288
00:25:10,217 --> 00:25:12,761
‫שערותיי סמרו, פשוטו כמשמעו.‬

289
00:25:13,386 --> 00:25:14,554
‫הייתי בהלם.‬

290
00:25:15,388 --> 00:25:19,017
‫המחשב הציע עשרות אלפי רעיונות‬

291
00:25:19,100 --> 00:25:20,685
‫לנשקים כימיים חדש.‬

292
00:25:21,645 --> 00:25:27,609
‫ברור שמאגר הנתונים שלנו‬
‫מכיל מולקולות הנראות ודומות לגז VX.‬

293
00:25:27,692 --> 00:25:30,487
‫- חשש בשל שימוש בגז VX‬
‫בהתנקשות בקים ג'ונג-נאם -‬

294
00:25:30,570 --> 00:25:33,573
‫גז ה-VX הוא נשק כימי מהחזקים בעולם.‬
‫-המשטרה מעדכנת‬

295
00:25:33,657 --> 00:25:37,786
‫כי האישה שנראית כתוקפת את קים ג'ונג-נאם,‬
‫בהתנקשות שבוצעה בנמל תעופה זה,‬

296
00:25:37,869 --> 00:25:39,746
‫השתמשה בגז עצבים קטלני בשם VX.‬

297
00:25:39,829 --> 00:25:41,831
‫- גז עצבים VX‬
‫רעיל פי עשרה מסארין -‬

298
00:25:41,915 --> 00:25:44,417
‫הוא עלול לגרום למוות בחנק.‬

299
00:25:45,043 --> 00:25:47,629
‫זוהי מולקולה חזקה מאוד‬

300
00:25:47,712 --> 00:25:52,092
‫ועל פי החזוי, רוב המולקולות בקובץ‬
‫יהיו קטלניות אפילו יותר מ-VX.‬

301
00:25:53,301 --> 00:25:56,972
‫למיטב ידיעתנו,‬
‫רבות מאותן מולקולות אינן מוכרות.‬

302
00:25:57,472 --> 00:26:02,310
‫וכששון ואני הבנו זאת, חשבנו, "מה עשינו?"‬

303
00:26:04,771 --> 00:26:09,192
‫מהר מאוד הבנתי שפתחנו תיבת פנדורה‬

304
00:26:09,901 --> 00:26:13,280
‫ואמרתי, "עצור. אל תמשיך. סיימנו.‬

305
00:26:13,905 --> 00:26:17,158
‫"רק תכין לי את השקפים‬
‫בהם אשתמש במצגת".‬

306
00:26:19,202 --> 00:26:20,704
‫כשביצענו את הניסוי הזה‬

307
00:26:20,787 --> 00:26:23,873
‫חשבתי לעצמי,‬
‫"מה הדבר הכי גרוע שיוכל לקרות?"‬

308
00:26:26,251 --> 00:26:30,255
‫אבל עכשיו אני אומר,‬
‫"כמה תמימים היינו כשעשינו את זה".‬

309
00:26:33,425 --> 00:26:36,970
‫יותר מכול מפחידה אותי העובדה‬
‫שכל אחד יכול לעשות את מה שעשינו.‬

310
00:26:38,930 --> 00:26:40,765
‫זה נעשה בלחיצת כפתור.‬

311
00:26:42,934 --> 00:26:44,477
‫איך נשלוט בטכנולוגיה הזו‬

312
00:26:45,061 --> 00:26:50,942
‫לפני שייעשה בה שימוש הרסני בתכלית?‬

313
00:26:54,279 --> 00:26:56,448
‫- בוסטון‬
‫מסצ'וסטס -‬

314
00:26:56,531 --> 00:27:03,538
‫בלב הדיון בנושא הבינה המלאכותית‬
‫ועל הדרכים בהן נבחר ליישם אותה בחברה,‬

315
00:27:04,289 --> 00:27:05,832
‫נמצא המתח…‬

316
00:27:05,915 --> 00:27:08,001
‫- אמיליה יבורסקי‬
‫מכון "עתיד החיים" -‬

317
00:27:08,084 --> 00:27:11,379
‫בין העוצמה איתה נפתח טכנולוגיה‬
‫לבין החוכמה למשול בה.‬

318
00:27:13,340 --> 00:27:16,926
‫ישנן השלכות מוסריות ואתיות ברורות,‬

319
00:27:17,010 --> 00:27:20,263
‫כשאנו מדברים על מערכת‬
‫כמו זו המפעילה את הטלפון החכם שלנו‬

320
00:27:20,347 --> 00:27:23,433
‫אשר תקבל סמכות‬
‫לבצע החלטה מוסרית ליטול חיים.‬

321
00:27:25,727 --> 00:27:31,191
‫אני עובדת עם מכון "עתיד החיים",‬
‫קהילה של מדענים אקטיביסטיים.‬

322
00:27:31,733 --> 00:27:38,698
‫באופן כללי, אנחנו מנסים להראות‬
‫שיש צד נוסף למהירות ולאוטומציה המתרחבת.‬

323
00:27:38,782 --> 00:27:42,619
‫אבל אנחנו מנסים לוודא שהטכנולוגיה שניצור‬

324
00:27:42,702 --> 00:27:45,038
‫תיושם בדרך בטוחה ואתית.‬

325
00:27:46,247 --> 00:27:49,959
‫בוא נדבר על חוקי הקרב‬

326
00:27:50,043 --> 00:27:54,005
‫ועל נהלי התפקוד‬
‫בשילוב בינה מלאכותית במערכות הנשק שלנו.‬

327
00:27:54,798 --> 00:27:59,135
‫אנו רואים טכנולוגיות הנכנסות לשדה הקרב‬

328
00:27:59,219 --> 00:28:01,680
‫אשר ביכולתן לבצע הרג בצורה אוטונומית.‬

329
00:28:10,230 --> 00:28:13,775
‫ב-2021, פרסם האו"ם דוח‬

330
00:28:13,858 --> 00:28:19,364
‫שעסק בשימוש אפשרי‬
‫של מערכות אוטונומיות קטלניות בקרבות בלוב.‬

331
00:28:20,031 --> 00:28:21,825
‫ועדה באו"ם טענה שלפני שנה…‬

332
00:28:21,908 --> 00:28:24,160
‫- ייתכן שכטב"מ "צד" והרג חיילים בלוב -‬

333
00:28:24,244 --> 00:28:27,747
‫במסגרת מלחמת האזרחים בלוב,‬
‫תוכנת כטב"מ לתקוף באופן אוטונומי.‬

334
00:28:27,831 --> 00:28:29,165
‫- ללא מעורבות אנושית -‬

335
00:28:29,249 --> 00:28:31,209
‫אם דוח האו"ם מדויק,‬

336
00:28:31,292 --> 00:28:35,046
‫זה צריך להיות קו פרשת המים עבור האנושות.‬

337
00:28:35,130 --> 00:28:42,137
‫משום שזהו מקרה מבחן‬
‫בו הבינה המלאכותית, ולא האדם, בחרה להרוג.‬

338
00:28:49,686 --> 00:28:53,398
‫ניתן להבחין בנשקים אוטונומיים מתקדמים‬
‫אשר נפרסים ברחבי העולם.‬

339
00:28:53,481 --> 00:28:57,277
‫- טכנולוגיה, קרבות העתיד‬
‫נחיל כטב"מים ישראלי צד בכירי חמאס בעזה -‬

340
00:28:57,360 --> 00:28:58,695
‫התקבלו דיווחים מישראל…‬

341
00:28:59,195 --> 00:29:02,490
‫- כטב"מי 'קליע הקסם'‬
‫הובילו לניצחון אזרבייג'ן על ארמניה -‬

342
00:29:02,574 --> 00:29:05,702
‫האזרים תקפו‬
‫את ההגנה האווירית הארמנית בנשק אוטונומי.‬

343
00:29:07,370 --> 00:29:12,500
‫כלי הטיס מסוגל לרחף בשדה הקרב במשך שעות‬
‫ולמצוא מטרות בעצמו‬

344
00:29:12,584 --> 00:29:16,087
‫ואז לתקוף אותן ללא הרף ללא התערבות אנושית.‬

345
00:29:16,171 --> 00:29:19,883
‫- רוסיה ואוקראינה הן הראשונות לנהל‬
‫מלחמת כטב"מים בקנה מידה מלא -‬

346
00:29:19,966 --> 00:29:22,218
‫לאחרונה ראינו סרטונים שונים מאוקראינה.‬

347
00:29:22,302 --> 00:29:26,014
‫- מאות כטב"מי תקיפה ואיסוף מודיעין‬
‫טסים בשמי אוקראינה בכל יום -‬

348
00:29:26,097 --> 00:29:30,518
‫לא ברור באיזה מצב פעלו כלי הטיס האלה.‬
‫האם הייתה התערבות כלשהי בבחירת המטרות,‬

349
00:29:30,602 --> 00:29:32,729
‫או שמא המכונה עשתה זאת בעצמה?‬

350
00:29:32,812 --> 00:29:36,524
‫אבל אין ספק שהרגע הזה יגיע,‬

351
00:29:36,608 --> 00:29:40,195
‫ואולי אף התרחש כבר‬
‫בלוב, באוקראינה או במקום אחר.‬

352
00:29:40,278 --> 00:29:44,449
‫הרגע בו מכונה תכריע את מי להרוג בשדה הקרב.‬

353
00:29:47,035 --> 00:29:50,997
‫מכונות הנוקטות בכוח קטלני כנגד בני אדם,‬

354
00:29:51,080 --> 00:29:53,374
‫ללא מעורבות אנושית כלשהי‬

355
00:29:53,458 --> 00:29:57,337
‫יהיה דבר בלתי מתקבל על הדעת מבחינה פוליטית‬
‫המעורר שאט נפש מוסרית.‬

356
00:29:57,420 --> 00:29:59,672
‫- כטב"מים מבוססי AI במלחמה באוקראינה -‬

357
00:29:59,756 --> 00:30:03,259
‫- מעוררים חשש מפני רובוטים קטלניים‬
‫אשר ישיתו הרס בשדה הקרב -‬

358
00:30:03,343 --> 00:30:06,888
‫נשאלת השאלה האם תוכל הקהילה הבין-לאומית‬
‫לשלוט באתגרים האלה.‬

359
00:30:06,971 --> 00:30:10,934
‫- מוסר המלחמה: האם הכטב"מים באוקראינה‬
‫הם צעד בדרך לרובוטים רוצחים? -‬

360
00:30:11,017 --> 00:30:15,730
‫אם ננסה לחזות את העתיד,‬
‫אפילו בשנים הקרובות, הנוף נראה מפחיד.‬

361
00:30:16,564 --> 00:30:20,401
‫בהתחשב בכך שכמות ההון ומשאבי האנוש‬

362
00:30:20,485 --> 00:30:26,032
‫המושקעים בשכלול הבינה המלאכותית‬
‫ובשלל יישומיה‬

363
00:30:26,115 --> 00:30:26,950
‫היא עצומה.‬

364
00:30:27,659 --> 00:30:32,163
‫- ארלינגטון‬
‫וירג'יניה -‬

365
00:30:39,254 --> 00:30:41,214
‫אלוהים, הבחור הזה.‬

366
00:30:41,756 --> 00:30:43,424
‫הוא יודע שהוא לא יכול לנצח.‬

367
00:30:46,594 --> 00:30:51,099
‫אני סופג השראה כשאני רואה שהבינה המלאכותית‬
‫מסוגלת לנצח במצבים בעייתיים שונים.‬

368
00:30:51,683 --> 00:30:53,977
‫הנה פעולה נואשת…‬

369
00:30:54,477 --> 00:30:59,524
‫ואפשר להשתמש באותן הטקטיקות,‬
‫הטכניקות וההליכים גם בכלי טיס אמיתי.‬

370
00:31:00,900 --> 00:31:01,776
‫- ניצחון! -‬

371
00:31:01,860 --> 00:31:03,778
‫זה היה משחק טוב.‬
‫-יופי, משחק טוב.‬

372
00:31:08,658 --> 00:31:13,830
‫אני מופתע לשמוע אנשים‬
‫הממשיכים לנקוב במגבלות הבינה המלאכותית.‬

373
00:31:13,913 --> 00:31:16,583
‫נניח, "היא לעולם לא תביס אלוף עולם בשחמט".‬

374
00:31:20,211 --> 00:31:25,008
‫מחשב מתוצרת IBM ביצע מהפך‬
‫במשחק השני בסדרה מול אלוף העולם בשחמט,‬

375
00:31:25,091 --> 00:31:25,925
‫גארי קספרוב.‬

376
00:31:28,136 --> 00:31:30,847
‫קספרוב נכנע!‬

377
00:31:31,598 --> 00:31:34,642
‫כשאני רואה דבר שאיני מבין כלל,‬

378
00:31:35,268 --> 00:31:38,062
‫אני מפחד. וזה היה משהו שנשגב מבינתי.‬

379
00:31:39,355 --> 00:31:41,107
‫ואז אנשים אומרים,‬

380
00:31:41,190 --> 00:31:44,402
‫"הוא לעולם לא ינצח את אלוף העולם ב'גו'".‬

381
00:31:44,485 --> 00:31:50,700
‫לדעתי, האינטואיציה האנושית‬
‫עדיין מתקדמת מדי עבור הבינה המלאכותית.‬

382
00:31:50,783 --> 00:31:52,785
‫שטרם הדביקה את הפער.‬

383
00:31:55,330 --> 00:31:58,416
‫גו הוא מהמשחקים המורכבים ביותר שניתן ללמוד‬

384
00:31:58,499 --> 00:32:02,211
‫בגלל שמבחינה מתמטית,‬
‫מספר הצעדים שניתן לעשות בלוח‬

385
00:32:02,295 --> 00:32:05,256
‫גדול ממספרם של כלל האטומים ביקום.‬

386
00:32:05,340 --> 00:32:07,091
‫- גוגל דיפ מיינד‬
‫משחק האתגר -‬

387
00:32:07,175 --> 00:32:11,471
‫בחברת גוגל פעל צוות בשם "דיפ מיינד"‬
‫והם יצרו תוכנה בשם "אלפא גו"‬

388
00:32:11,554 --> 00:32:14,265
‫שתוכל לנצח את השחקנים הטובים בעולם.‬

389
00:32:14,349 --> 00:32:16,476
‫וואו…‬

390
00:32:16,559 --> 00:32:18,353
‫ברכות ל…‬

391
00:32:18,436 --> 00:32:19,437
‫אלפא גו.‬
‫-אלפא גו.‬

392
00:32:19,520 --> 00:32:22,774
‫תוכנת מחשב ניצחה שחקן מקצועי בדרגת דאן 9.‬
‫-וואו. כן.‬

393
00:32:25,485 --> 00:32:28,029
‫דיפ מיינד פנו לאתגר הבא במשחק "סטארקראפט".‬

394
00:32:28,112 --> 00:32:31,532
‫- לאחר שש בש, שחמט וגו‬
‫הבינה המלאכותית תיבחן בסטארקראפט 2 -‬

395
00:32:33,743 --> 00:32:38,081
‫סטארקראפט הוא ממשחקי האסטרטגיה בזמן אמיתי‬
‫הפופולריים בעולם.‬

396
00:32:38,164 --> 00:32:41,417
‫- דיפ מיינד יכולה לנצח כמעט כל שחקן אנושי‬
‫בסטארקראפט 2 -‬

397
00:32:41,501 --> 00:32:43,836
‫"אלפא סטאר" התפרסמה כשניצחה אלופי עולם.‬

398
00:32:43,920 --> 00:32:45,254
‫- אלפא סטאר לא עוצרת -‬

399
00:32:45,338 --> 00:32:51,052
‫אלפא סטאר מוחצת את "אימורטל ארק".‬
‫-אתה יודע מה? המקצוענים לא ינצחו בקרב הזה.‬

400
00:32:51,135 --> 00:32:54,097
‫- ניצחון, אלפא סטאר‬
‫הבינה המלאכותית בדרגת רב-אומן -‬

401
00:32:54,180 --> 00:32:55,264
‫זה מגוחך.‬

402
00:32:55,348 --> 00:32:57,558
‫- במשחק סטארקראפט 2 'מורכב להחריד' -‬

403
00:32:57,642 --> 00:33:00,895
‫גיימרים מקצועיים אמרו,‬
‫"לעולם לא אשתמש בטקטיקה הזו".‬

404
00:33:00,979 --> 00:33:04,816
‫"לעולם לא אנסה את האסטרטגיה הזו.‬
‫זה משהו לא אנושי".‬

405
00:33:07,151 --> 00:33:10,655
‫וזה היה הרגע בו הבנתי הכול.‬

406
00:33:13,574 --> 00:33:16,661
‫הבנתי שזה הזמן.‬

407
00:33:17,412 --> 00:33:21,082
‫יש כאן טכנולוגיה חשובה‬
‫והזדמנות לעשות שינוי.‬

408
00:33:24,502 --> 00:33:29,382
‫הבעיות בקרבות בשטחים קטנים‬
‫היו מוכרות לי בשל שירותי באריות הים,‬

409
00:33:30,383 --> 00:33:34,470
‫אבל טייס F-18,‬
‫שהיה אחד מחבריי הטובים, אמר לי,‬

410
00:33:34,554 --> 00:33:37,724
‫"לטייסי קרב יש בעיה דומה.‬

411
00:33:37,807 --> 00:33:39,434
‫"משבשים לנו את התקשורת.‬

412
00:33:39,517 --> 00:33:42,562
‫"מספר האתרים‬
‫מהם ניתן לירות נשק נ"ט הלך והתרבה,‬

413
00:33:42,645 --> 00:33:45,023
‫"ואנו נמנעים מפעילות בגלל הסיכון הגדול".‬

414
00:33:47,483 --> 00:33:50,987
‫דמיינו שהיה לנו מטוס קרב‬
‫אשר מונחה על ידי בינה מלאכותית.‬

415
00:33:51,070 --> 00:33:56,159
‫ברוכים הבאים לניסויי "אלפא דוג פייט".‬
‫חצי הגמר הראשון יחל בעוד מספר דקות.‬

416
00:33:56,242 --> 00:33:59,871
‫סוכנות DARPA‬
‫לפרויקטים מחקריים מתקדמים עבור הצבא‬

417
00:33:59,954 --> 00:34:03,624
‫בחנה את "אלפא גו" ו"אלפא סטאר"‬

418
00:34:04,292 --> 00:34:08,171
‫וכך נולד הרעיון לקיים תחרות קרבות אוויר‬
‫במסגרת "אלפא דוג פייט".‬

419
00:34:09,005 --> 00:34:13,593
‫זה מה שהיית מצפה מטייס אנושי לעשות.‬
‫-זה דומה לקרב אווירי בין טייסים אנושיים.‬

420
00:34:15,595 --> 00:34:19,057
‫בקרב אווירי קלאסי,‬
‫שני מטוסים נאבקים זה בזה.‬

421
00:34:19,849 --> 00:34:22,852
‫אפשר לחשוב על קרב כזה‬
‫כעל קרב אגרוף המתנהל בשמיים.‬

422
00:34:23,853 --> 00:34:26,314
‫אולי אנשים צפו בסרט "אהבה בשחקים".‬

423
00:34:26,397 --> 00:34:27,815
‫נוכל לברוח מהם?‬

424
00:34:28,649 --> 00:34:31,277
‫לא מהטילים ומהתותחים שלהם.‬
‫-אז זה קרב.‬

425
00:34:35,531 --> 00:34:39,410
‫לרוב, שליטה טובה בקרבות אוויר‬
‫מושגת לאחר שמונה או עשר שנות טיסה.‬

426
00:34:42,288 --> 00:34:46,209
‫קשה מאוד לייצר בינה מלאכותית‬
‫עבור אתגר מורכב כזה.‬

427
00:34:49,629 --> 00:34:52,381
‫- ארלינגטון‬
‫וירג'יניה -‬

428
00:34:54,092 --> 00:34:58,679
‫הגישה הקודמת לקרבות אוויר אוטונומיים‬
‫הייתה בלתי יציבה.‬

429
00:34:59,222 --> 00:35:03,017
‫ופשוט הבנו‬
‫שלמידת מכונה היא הדרך לפתור את הבעיה.‬

430
00:35:04,477 --> 00:35:08,189
‫בתחילה, הבינה המלאכותית‬
‫לא הבינה דבר בעולם אליו הוצנחה.‬

431
00:35:08,272 --> 00:35:11,025
‫היא לא ידעה שהיא עפה‬
‫ולא ידעה מהם קרבות אוויר.‬

432
00:35:11,109 --> 00:35:13,152
‫היא לא הכירה את מטוס ה-F-16.‬

433
00:35:13,236 --> 00:35:16,531
‫היא רק ידעה באלו פעולות תוכל לנקוט‬
‫ואז בחנה אותן באקראי.‬

434
00:35:16,614 --> 00:35:18,407
‫- ברט דרסי‬
‫מנהל מוצר, שילד AI -‬

435
00:35:19,325 --> 00:35:23,204
‫המטוס הכחול עבר אימונים קצרים בלבד.‬

436
00:35:23,287 --> 00:35:25,832
‫ניתן לראות שהוא מתנועע למטה ולמעלה,‬

437
00:35:26,624 --> 00:35:30,545
‫הטיסה שלו לא יציבה‬
‫ובדרך כלל הוא מתרחק מהיריב.‬

438
00:35:31,587 --> 00:35:32,755
‫כשהקרב מתקדם,‬

439
00:35:32,839 --> 00:35:36,134
‫נוכל לראות שהמטוס הכחול מגבש תוכנית.‬

440
00:35:36,676 --> 00:35:38,636
‫הוא מתמקם בעמדה נוחה יותר לירי.‬

441
00:35:39,178 --> 00:35:41,305
‫מדי פעם, אלגוריתם הלמידה אמר,‬

442
00:35:41,389 --> 00:35:43,891
‫"קח עוגייה. זה היה טוב. תמשיך ככה".‬

443
00:35:45,143 --> 00:35:49,147
‫נוכל לנצל את המחשוב החזק שברשותנו‬
‫ונאמן את הכלים שלנו פעמים רבות,‬

444
00:35:49,230 --> 00:35:50,064
‫במקביל.‬

445
00:35:51,357 --> 00:35:52,775
‫זה דומה לקבוצת כדורסל.‬

446
00:35:53,276 --> 00:35:55,778
‫במקום לשחק מול אותה קבוצה שוב ושוב,‬

447
00:35:55,862 --> 00:35:59,198
‫אנחנו מסתובבים בעולם,‬
‫משחקים מול 512 קבוצות,‬

448
00:35:59,699 --> 00:36:00,950
‫והכול במקביל.‬

449
00:36:01,492 --> 00:36:03,452
‫אפשר להשתפר מאוד ומהר מאוד.‬

450
00:36:04,162 --> 00:36:07,456
‫יכולנו להפעיל את הסימולציה‬
‫ברציפות במשך שבוע,‬

451
00:36:07,540 --> 00:36:11,919
‫וכך להשיג ניסיון השווה ל-30 שנות טיסה‬
‫בעשרה חודשים.‬

452
00:36:12,879 --> 00:36:17,717
‫התחלנו עם מטוס שבקושי הצליח לתפקד‬
‫והגענו למתנקש עם קרח בוורידים.‬

453
00:36:19,010 --> 00:36:23,514
‫באימונים התחרינו רק בבינה מלאכותית אחרת.‬

454
00:36:24,473 --> 00:36:28,561
‫אבל המטרה הסופית‬
‫הייתה תחרות מול טייס אנושי.‬

455
00:36:34,192 --> 00:36:35,610
‫שמי מייק בניטז,‬

456
00:36:36,110 --> 00:36:38,446
‫אני לוטננט קולונל בחיל האוויר האמריקני.‬

457
00:36:39,155 --> 00:36:41,157
‫אני משרת בחיל כ-25 שנה.‬

458
00:36:42,825 --> 00:36:44,869
‫השתתפתי ב-250 קרבות‬

459
00:36:45,578 --> 00:36:49,832
‫ואני בוגר בית הספר לחימוש‬
‫של חיל האוויר, הדומה להכשרת ה"טופ גאן".‬

460
00:36:52,627 --> 00:36:55,171
‫מעולם לא טסתי מול בינה מלאכותית.‬

461
00:36:55,254 --> 00:36:58,549
‫אני מתרגש לבדוק אם אצליח.‬

462
00:36:59,634 --> 00:37:03,054
‫אנחנו בגובה 6,000 רגל בקרב ראש בראש.‬

463
00:37:04,388 --> 00:37:05,223
‫טוב, מתחילים.‬

464
00:37:13,314 --> 00:37:14,148
‫הוא נעלם.‬

465
00:37:14,732 --> 00:37:16,651
‫כן, זה מאוד מעניין.‬

466
00:37:20,780 --> 00:37:23,658
‫מת.‬
‫-הוא תפס אותו. ניצחון מושלם.‬

467
00:37:25,910 --> 00:37:27,453
‫טוב, הסיבוב השני.‬

468
00:37:35,461 --> 00:37:40,508
‫הבינה המלאכותית מתמרנת בדייקנות כזו‬

469
00:37:41,384 --> 00:37:43,219
‫עד שאני לא מצליח לעמוד בקצב.‬

470
00:37:48,474 --> 00:37:49,725
‫הם בטווח קרב.‬

471
00:37:50,309 --> 00:37:51,894
‫עכשיו אתה מת.‬

472
00:37:53,145 --> 00:37:53,980
‫הוא תפס אותו.‬

473
00:37:54,063 --> 00:37:55,022
‫הוא תפס אותי.‬

474
00:37:58,567 --> 00:38:00,069
‫הבינה המלאכותית לא מפחדת.‬

475
00:38:00,736 --> 00:38:03,781
‫בתא הטייס מעורב גורם רגשי‬
‫החסר לבינה המלאכותית.‬

476
00:38:04,991 --> 00:38:08,077
‫אחת האסטרטגיות המעניינות ביותר‬
‫שפיתחה הבינה המלאכותית‬

477
00:38:08,160 --> 00:38:10,121
‫נגעה לירי חזיתי.‬

478
00:38:10,621 --> 00:38:14,000
‫בדרך כלל, בני האדם ינסו לירות מאחור,‬

479
00:38:14,083 --> 00:38:16,377
‫מכיוון שכך קשה לאויב להתחמק ממך.‬

480
00:38:17,044 --> 00:38:20,506
‫הם לא מנסים לתקוף חזיתית,‬
‫מכיוון שאז הדבר דומה למשחק עצבים.‬

481
00:38:21,424 --> 00:38:27,096
‫כשאנו טסים זה לעבר זה, מרחק של 3,000 רגל‬
‫מצטמצם למרחק של 500 רגל בהרף עין.‬

482
00:38:27,596 --> 00:38:31,183
‫קיים סיכון גבוה להתנגשות‬
‫ולכן בני האדם לא מנסים זאת.‬

483
00:38:32,893 --> 00:38:35,938
‫הבינה המלאכותית תפחד למות‬
‫רק אם יוגדר לה לפחד למות.‬

484
00:38:37,857 --> 00:38:40,234
‫נראה שאני נלחם בטייס אנושי,‬

485
00:38:40,776 --> 00:38:44,113
‫אבל זה טייס שמזלזל לחלוטין בביטחונו.‬

486
00:38:45,489 --> 00:38:47,325
‫הוא לא ישרוד את הקרב האחרון.‬

487
00:38:57,168 --> 00:38:58,461
‫אין לו מספיק זמן.‬

488
00:39:01,964 --> 00:39:02,965
‫לילה טוב.‬

489
00:39:04,091 --> 00:39:04,925
‫אני מת.‬

490
00:39:16,812 --> 00:39:21,400
‫זו חוויה שגורמת לי להכיר בכוחי,‬
‫ולהבין שאיני הבחירה הטובה ביותר למשימה הזו‬

491
00:39:21,484 --> 00:39:24,320
‫ושייתכן שהדבר הזה יחליף אותי יום אחד.‬

492
00:39:25,696 --> 00:39:26,906
‫נגדיר 6,000 רגל שוב.‬

493
00:39:27,615 --> 00:39:28,824
‫וסטייה של אלף.‬

494
00:39:29,450 --> 00:39:32,078
‫הבינה המלאכותית המטיסה את המטוס הזה‬

495
00:39:32,828 --> 00:39:34,830
‫מנצחת ללא הרף ושולטת בקרב.‬

496
00:39:34,914 --> 00:39:37,249
‫היא לא מסתפקת רק בניצחון בהפרש גדול.‬

497
00:39:37,333 --> 00:39:41,545
‫העוצמה שלה גורמת לנו לומר,‬
‫"טוב, איך מוסיפים את זה למטוס שלנו?"‬

498
00:39:43,672 --> 00:39:47,802
‫מציאותי לחשוב שהבינה המלאכותית‬
‫תטיס מטוסי F-16‬

499
00:39:47,885 --> 00:39:49,970
‫והדבר לא יקרה בעתיד הרחוק.‬

500
00:39:51,305 --> 00:39:56,769
‫אם תתחרה בטייס מבוסס בינה מלאכותית‬
‫אשר שיעורי הצלחתו הם 99.99999%‬

501
00:39:56,852 --> 00:39:58,062
‫אין לך סיכוי.‬

502
00:39:59,563 --> 00:40:02,942
‫כשאני חושב על טייס בלתי מנוצח אחד‬
‫המבוסס על בינה מלאכותית,‬

503
00:40:03,025 --> 00:40:06,779
‫אני מתחיל לחשוב על קבוצה בת 50, או 100,‬

504
00:40:07,321 --> 00:40:12,535
‫או אלף טייסי בינה מלאכותית‬
‫ולהישגים אליהם יגיעו.‬

505
00:40:13,702 --> 00:40:18,791
‫נחיל הוא צוות של מטוסים בעלי בינה עילאית‬
‫שפועלים יחד.‬

506
00:40:19,291 --> 00:40:23,462
‫הם חולקים מידע בנוגע לפעולותיהם‬
‫ובכל הנוגע לפתרון בעיות.‬

507
00:40:25,172 --> 00:40:28,467
‫נחילי מטוסים יוכלו לשנות את התמונה לחלוטין‬

508
00:40:28,551 --> 00:40:32,054
‫ויכולותיהם יביאו למהפכה‬
‫בקרב צבאנו ולבעלות בריתנו.‬

509
00:40:34,223 --> 00:40:39,186
‫- לינקולן‬
‫נברסקה -‬

510
00:41:42,750 --> 00:41:47,379
‫המטרה זוהתה והרחפנים עוקבים אחריה.‬

511
00:42:02,019 --> 00:42:03,604
‫טוב, הנה הנחיתה.‬

512
00:42:07,566 --> 00:42:13,697
‫אנו חוקרים את פעולת כלי הטיס כנחיל‬
‫ומטרתו הראשית היא לפרוס כמות רחפנים גדולה‬

513
00:42:13,781 --> 00:42:16,033
‫מעל אזור שקשה או מסוכן להגיע אליו.‬

514
00:42:16,116 --> 00:42:17,910
‫- ג'סטין ברדלי‬
‫מעבדת "נימבוס" -‬

515
00:42:21,705 --> 00:42:26,085
‫מעבדת המחקר הצבאית תומכת במחקר הזה.‬

516
00:42:26,919 --> 00:42:28,963
‫אם נרצה לדעת מה נמצא במקום מסוים,‬

517
00:42:29,046 --> 00:42:32,883
‫וניתקל בקשיים בהגעה לאותו מקום,‬
‫שעשוי להיות גם גדול מאוד,‬

518
00:42:33,676 --> 00:42:38,389
‫שיגור נחיל תוכל להיות דרך טבעית מאוד‬
‫כדי להגדיל את טווחם של כלי טיס יחידים‬

519
00:42:38,472 --> 00:42:41,934
‫וכדי לאסוף מודיעין חיוני למשימה.‬

520
00:42:46,689 --> 00:42:48,983
‫כעת, במסגרת פריסת הנחיל שלנו,‬

521
00:42:49,066 --> 00:42:53,904
‫הגדרנו פקודה בודדת שעיקרה איתור המטרה.‬

522
00:42:54,488 --> 00:42:57,283
‫מרגע זה, הרחפנים פועלים בעצמם.‬

523
00:42:59,493 --> 00:43:00,661
‫הבינה המלאכותית‬

524
00:43:00,744 --> 00:43:05,708
‫מאפשרת לרובוטים לנוע כנחיל באופן מבוזר.‬

525
00:43:10,671 --> 00:43:12,506
‫בנחילים בטבע,‬

526
00:43:13,299 --> 00:43:18,178
‫אין בוס, אין חיה ראשית שמנחה את האחרות.‬

527
00:43:20,556 --> 00:43:25,019
‫ההתנהגות שמפגינה כל חיה‬

528
00:43:25,102 --> 00:43:27,104
‫מצייתת למספר חוקים פשוטים.‬

529
00:43:27,688 --> 00:43:32,443
‫ומכאן נובעת‬
‫ההתנהגות הקולקטיבית שאנו רואים.‬

530
00:43:33,944 --> 00:43:39,992
‫הנחילים בטבע מדהימים‬
‫ביכולתם לנוע בצורה מלאת חן כל כך.‬

531
00:43:40,576 --> 00:43:44,288
‫נראה שהם נועדו להיות חלק מהקבוצה הזו.‬

532
00:43:46,790 --> 00:43:51,128
‫באופן אידיאלי,‬
‫זה מה שנרצה לראות בנחיל הרחפנים שלנו,‬

533
00:43:51,211 --> 00:43:53,172
‫התנהגות הדומה לנחילים בטבע,‬

534
00:43:53,672 --> 00:43:56,717
‫והחלטות המתקבלות באופן קולקטיבי, כקבוצה.‬

535
00:43:59,928 --> 00:44:06,268
‫דבר נוסף אשר היווה לנו מקור השראה‬
‫טמון באמינות ובגמישות של הנחיל.‬

536
00:44:07,311 --> 00:44:09,188
‫הנחיל לא ייעצר‬

537
00:44:09,271 --> 00:44:13,567
‫אם חיה אחת לא תעשה את מה שעליה לעשות.‬

538
00:44:15,194 --> 00:44:18,697
‫אפילו אם אחד הכלים שלנו ייפול או ייכשל,‬

539
00:44:18,781 --> 00:44:20,866
‫גם אם לא יוכל לבצע את משימתו,‬

540
00:44:21,909 --> 00:44:23,369
‫הנחיל ימשיך הלאה.‬

541
00:44:25,204 --> 00:44:27,873
‫ובסופו של דבר, זה מה שנרצה לראות.‬

542
00:44:29,333 --> 00:44:33,879
‫בתרחישי קרב,‬
‫קיים צורך לזהות את מטוסי האויב,‬

543
00:44:33,962 --> 00:44:37,841
‫ובעבר, נזקקנו למפעיל שישלוט ברובוט אחד.‬

544
00:44:38,592 --> 00:44:40,552
‫ככל שהאוטונומיה מתרחבת,‬

545
00:44:40,636 --> 00:44:43,555
‫אני מקווה שנראה מספר גדול של רובוטים‬

546
00:44:43,639 --> 00:44:46,558
‫הנשלט בידי קבוצה קטנה מאוד של אנשים.‬

547
00:44:47,851 --> 00:44:50,854
‫בסופו של דבר,‬
‫לא מן הנמנע שנוכל לפרוס אלף כלי טיס‬

548
00:44:51,355 --> 00:44:54,942
‫מכיוון שכל אחד מהכלים שלנו‬
‫יוכל לפעול עצמאית‬

549
00:44:55,025 --> 00:44:56,443
‫והשמיים הם הגבול.‬

550
00:44:57,027 --> 00:44:59,071
‫נוכל להגדיל את הלמידה שלנו…‬

551
00:44:59,154 --> 00:45:03,325
‫במשך זמן מה,‬
‫ערכנו סימולציות של פעולת הנחיל‬

552
00:45:03,409 --> 00:45:06,829
‫והגיע הזמן לעבור לכלי טיס בעולם האמיתי.‬

553
00:45:07,329 --> 00:45:12,042
‫אנחנו מצפים‬
‫להפעיל שלושה רובוטים במקביל ברשת‬

554
00:45:12,126 --> 00:45:15,129
‫ואז להתחיל להוסיף עוד יכולות.‬

555
00:45:15,879 --> 00:45:18,549
‫אנחנו רוצים לבחון את הבינה בכלים קטנים‬

556
00:45:18,632 --> 00:45:22,261
‫אבל נרצה לקחת מספר רעיונות‬
‫וליישם אותם גם במערכות גדולות‬

557
00:45:22,344 --> 00:45:23,679
‫כמו מטוס קרב.‬

558
00:45:24,596 --> 00:45:26,515
‫לעיתים קרובות אנחנו שואלים,‬

559
00:45:26,598 --> 00:45:31,937
‫"איך ניתן לפלוגה עוצמה קרבית של גדוד?"‬

560
00:45:34,982 --> 00:45:39,528
‫איך ניתן לגדוד עוצמה קרבית של חטיבה?‬

561
00:45:39,611 --> 00:45:41,488
‫הנחילים יכולים לעשות זאת.‬

562
00:45:42,614 --> 00:45:45,200
‫מי שיפצח את עוצמת הנחיל,‬

563
00:45:45,284 --> 00:45:48,078
‫יוכל ליצור כוח התרעה אסטרטגי חדש‬

564
00:45:48,162 --> 00:45:49,455
‫כנגד תוקפנות צבאית.‬

565
00:45:52,332 --> 00:45:54,543
‫אני מתרגש לחשוב‬

566
00:45:54,626 --> 00:46:00,299
‫על מספר הצעירים והצעירות שנוכל להציל‬
‫אם נעשה זאת נכון.‬

567
00:46:01,091 --> 00:46:03,594
‫האבדות שנספוג יהיו בדמות מכונות‬

568
00:46:04,553 --> 00:46:05,846
‫ולא יתבטאו בחיי אדם.‬

569
00:46:06,638 --> 00:46:11,727
‫יש הטוענים שכלי נשק אוטונומיים‬
‫יהפכו את הלוחמה למדויקת ולאנושית יותר,‬

570
00:46:12,853 --> 00:46:19,443
‫אבל האמת שקשה לחזות מבעוד מועד‬
‫כיצד הנשקים האוטונומיים ישנו את שדה הקרב.‬

571
00:46:21,320 --> 00:46:23,238
‫הדבר דומה להמצאת מקלע הגאטלינג.‬

572
00:46:23,322 --> 00:46:25,657
‫- מקלע גאטלינג‬
‫נרשם כפטנט 9 במאי 1865 -‬

573
00:46:25,741 --> 00:46:27,159
‫ריצ'רד גאטלינג היה ממציא‬

574
00:46:27,242 --> 00:46:30,954
‫והוא ראה חיילים פצועים‬
‫שחזרו ממלחמת האזרחים בארה"ב‬

575
00:46:32,289 --> 00:46:35,292
‫ורצה למצוא דרכים‬
‫להפוך את הלוחמה לאנושית יותר.‬

576
00:46:36,627 --> 00:46:39,797
‫הוא רצה להפחית‬
‫את מספר החיילים שייהרגו במלחמה‬

577
00:46:40,422 --> 00:46:42,633
‫בכך שיפחית את מספר החיילים הלוחמים.‬

578
00:46:44,092 --> 00:46:48,388
‫לכן הוא המציא את מקלע גאטלינג,‬
‫מכונת ירייה אוטומטית המופעלת בידית‬

579
00:46:48,472 --> 00:46:50,516
‫שהפכה את תהליך הירי לאוטומטי.‬

580
00:46:53,268 --> 00:46:57,981
‫המקלע הגדיל פי מאה לערך‬
‫את כוח האש של החיילים.‬

581
00:47:01,109 --> 00:47:01,944
‫לעיתים קרובות,‬

582
00:47:02,027 --> 00:47:05,239
‫הניסיון להפוך את הלוחמה‬
‫למדויקת ואנושית יותר,‬

583
00:47:06,490 --> 00:47:07,991
‫עלול להביא לתוצאה ההפוכה.‬

584
00:47:10,160 --> 00:47:14,540
‫חשבו על השלכות תקיפתו‬
‫של כטב"מ תועה אחד באזור חקלאי‬

585
00:47:14,623 --> 00:47:18,544
‫אשר משלהב את האוכלוסייה המקומית‬
‫כנגד ארה"ב וכנגד הממשל המקומי,‬

586
00:47:18,627 --> 00:47:20,712
‫אלה שאמורים להיות "הטובים".‬

587
00:47:22,589 --> 00:47:25,008
‫עכשיו הכפילו זאת באלף.‬

588
00:47:26,802 --> 00:47:31,431
‫יצירת מערכת נשק זולה, אשר ניתן להרחיבה‬

589
00:47:32,057 --> 00:47:34,560
‫ואינה דורשת מפעילים אנושיים‬

590
00:47:34,643 --> 00:47:37,896
‫משנה באופן קיצוני את גבולות הסכסוך.‬

591
00:47:40,107 --> 00:47:44,486
‫אני לא מצליחה לישון כשאני חושבת על עולם‬
‫בו מלחמה מתנהלת בכל עבר.‬

592
00:47:44,987 --> 00:47:48,657
‫עולם בו כבר לא נוטרד‬
‫מהעלויות הכלכליות והאנושיות של המלחמה‬

593
00:47:48,740 --> 00:47:51,410
‫מכיוון שנהיה מנותקים כל כך מ…‬

594
00:47:52,369 --> 00:47:54,037
‫אובדן חיי הקורבנות.‬

595
00:47:59,501 --> 00:48:01,420
‫כל זה רודף אותי.‬

596
00:48:02,212 --> 00:48:05,924
‫נזקקתי לדוגמה אחת‬
‫המייצגת שימוש פסול בבינה מלאכותית.‬

597
00:48:06,800 --> 00:48:10,888
‫התוצאות הבלתי צפויות‬
‫של אותו ניסוי מחשבתי פשוט‬

598
00:48:10,971 --> 00:48:13,265
‫הרחיקו לכת מדי.‬

599
00:48:13,348 --> 00:48:16,643
‫- בינה מלאכותית במחקר תרופתי:‬
‫הימנעות מנזק גדול מתועלת -‬

600
00:48:16,727 --> 00:48:18,520
‫- מי אנחנו: "תרופות משותפות" -‬

601
00:48:18,604 --> 00:48:22,107
‫כשהצגתי את המולקולות הרעילות‬
‫אותן יצרה הבינה המלאכותית‬

602
00:48:22,608 --> 00:48:24,318
‫הקהל היה בהלם.‬

603
00:48:25,402 --> 00:48:27,613
‫- מולקולות חדשות, קטלניות מוגברת -‬

604
00:48:29,406 --> 00:48:32,784
‫לאחר מכן נדרשנו להחליט‬
‫האם לפרסם את המידע הזה.‬

605
00:48:32,868 --> 00:48:34,077
‫- קפאין -‬

606
00:48:34,912 --> 00:48:39,166
‫מצד אחד רצינו להזהיר את העולם מיכולות כאלה‬

607
00:48:39,249 --> 00:48:44,087
‫אבל מצד שני, לא רצינו לתת לאף אחד רעיונות.‬

608
00:48:46,381 --> 00:48:48,133
‫החלטנו ששווה לפרסם את הממצאים‬

609
00:48:48,216 --> 00:48:52,679
‫כדי שנוכל אולי למצוא דרכים‬
‫למנוע את השימוש הפסול בבינה מלאכותית כזו,‬

610
00:48:52,763 --> 00:48:54,139
‫לפני ששימוש כזה יתרחש.‬

611
00:48:54,222 --> 00:48:56,975
‫- דו-שימושיות‬
‫בחקר תרופות מבוסס בינה מלאכותית -‬

612
00:48:57,059 --> 00:49:00,062
‫- כיצד ניתן לנצל‬
‫בינה מלאכותית המיועדת לחקר תרופות -‬

613
00:49:00,145 --> 00:49:01,813
‫- ליצירת נשק ביוכימי חדש -‬

614
00:49:01,897 --> 00:49:04,775
‫התגובה הציבורית הייתה מזעזעת.‬

615
00:49:07,194 --> 00:49:10,656
‫יכולנו לראות את נתוני הפרסום‬
‫וכמה אנשים עיינו בו.‬

616
00:49:10,739 --> 00:49:14,451
‫בהנחה שהתמזל מזלנו,‬
‫המאמרים הרגילים שפרסמנו זכו ל…‬

617
00:49:14,534 --> 00:49:16,954
‫כמה אלפי אנשים‬
‫מביטים במאמר ממוצע פרי עטנו‬

618
00:49:17,037 --> 00:49:19,831
‫לאורך תקופה של שנה או כמה שנים.‬

619
00:49:19,915 --> 00:49:22,084
‫במשך שבוע, 10,000 איש קראו את המאמר.‬

620
00:49:22,167 --> 00:49:25,337
‫ואז 20, 30 ו-40 אלף.‬

621
00:49:25,837 --> 00:49:28,715
‫אז הגענו ל-10,000 קוראים ביום.‬

622
00:49:28,799 --> 00:49:31,760
‫- איך לתמרן תוכנה למחקר תרופתי‬
‫לייצור נשק כימי -‬

623
00:49:31,843 --> 00:49:34,179
‫פורסמנו ב"אקונומיסט" וב"פייננשל טיימס".‬

624
00:49:34,262 --> 00:49:37,766
‫- הצד האפל של בינת מחקר רפואי‬
‫רדיולאב: 40 אלף מתכונים לרצח -‬

625
00:49:37,849 --> 00:49:39,977
‫רדיולאב יצרו איתנו קשר. שמעתי עליהם!‬

626
00:49:41,937 --> 00:49:45,899
‫אבל אז התגובות יצאו משליטה.‬

627
00:49:48,777 --> 00:49:49,611
‫- מחריד -‬

628
00:49:49,695 --> 00:49:51,947
‫הסתכלנו בציוצים שהיו בסגנון, "אלוהים…"‬

629
00:49:52,030 --> 00:49:52,990
‫- הו. לי. שיט. -‬

630
00:49:53,073 --> 00:49:55,701
‫"אין דבר גרוע ממה שהם עשו.‬
‫למה הם עשו את זה?"‬

631
00:49:55,784 --> 00:49:57,411
‫- מהדברים המטרידים שקראתי -‬

632
00:49:57,911 --> 00:50:01,081
‫- החנונים האלה יהרגו את כולנו -‬

633
00:50:01,164 --> 00:50:04,501
‫ואז קיבלנו הזמנה לה לא ציפינו.‬

634
00:50:08,797 --> 00:50:12,926
‫בבית הלבן התקיים דיון נרחב במאמר‬

635
00:50:13,010 --> 00:50:15,345
‫והם רצו לדבר איתנו בדחיפות.‬

636
00:50:18,849 --> 00:50:23,020
‫אין ספק, השיחה עם אנשים בדרגים כה בכירים‬
‫הייתה כבוד עצום.‬

637
00:50:23,603 --> 00:50:25,272
‫אבל אז חשבנו,‬

638
00:50:25,355 --> 00:50:28,900
‫"אלוהים, זה הבית הלבן. הבוס".‬

639
00:50:29,693 --> 00:50:33,196
‫היה עלינו להרכיב מאגרי נתונים בקוד פתוח…‬

640
00:50:33,280 --> 00:50:37,701
‫בתוך שש שעות,‬
‫המודל הצליח לייצר מעל ל-40 אלף…‬

641
00:50:37,784 --> 00:50:41,038
‫הם שאלו אותנו‬
‫בנוגע לכוח המחשוב הדרוש למטרה זו‬

642
00:50:41,872 --> 00:50:44,249
‫וסיפרנו להם שלא צריך שום דבר מיוחד.‬

643
00:50:44,332 --> 00:50:48,211
‫אפשר להשתמש במחשב מק ממוצע בן שש.‬

644
00:50:49,546 --> 00:50:51,256
‫וזה זיעזע אותם.‬

645
00:50:54,968 --> 00:51:01,349
‫האחראים שהופקדו על הבנת הלוחמה הכימית,‬
‫כמו גם הסוכנויות הממשלתיות,‬

646
00:51:02,017 --> 00:51:04,227
‫לא היו מודעים לקיומו של פוטנציאל כזה.‬

647
00:51:06,605 --> 00:51:09,816
‫יש לנו ספר בישול לנשק כימי‬

648
00:51:10,650 --> 00:51:15,572
‫ואם הוא יגיע לגורם בעל כוונות זדון‬

649
00:51:16,573 --> 00:51:18,992
‫הדבר יביא לאסון נורא.‬

650
00:51:21,495 --> 00:51:25,457
‫אנשים צריכים לשבת ולהקשיב‬
‫ועלינו לפעול להסדרת השימוש בטכנולוגיה הזו…‬

651
00:51:25,540 --> 00:51:26,458
‫- המודל נטען! -‬

652
00:51:27,250 --> 00:51:30,670
‫או להגביל אותה‬
‫באופן שלא יאפשר את ניצולה לרעה.‬

653
00:51:31,880 --> 00:51:35,175
‫בגלל שפוטנציאל הקטלניות כאן…‬

654
00:51:36,176 --> 00:51:37,344
‫מבעית.‬

655
00:51:40,680 --> 00:51:45,977
‫שאלות אתיות בנוגע לשימוש בבינה מלאכותית‬
‫מעסיקות בעיקר את החברה‬

656
00:51:46,561 --> 00:51:50,273
‫ולא את המהנדסים,‬
‫או את מפתחי הטכנולוגיות והמתמטיקאים.‬

657
00:51:52,484 --> 00:51:56,822
‫כל טכנולוגיה וכל חידוש שנציג‬

658
00:51:56,905 --> 00:52:00,617
‫כפופים לדרך בה החברה תרצה להשתמש בהם.‬

659
00:52:00,700 --> 00:52:03,245
‫- מחלקת ההגנה‬
‫מאמצת קוד אתי לבינה מלאכותית -‬

660
00:52:03,328 --> 00:52:07,707
‫נכון לעכשיו, במחלקת ההגנה אומרים,‬
‫"רק גורם אנושי יחליט אם להרוג בשדה הקרב".‬

661
00:52:07,791 --> 00:52:12,420
‫- המערכות האוטונומיות החמושות בנשק קטלני‬
‫יופעלו על ידי גורם אנושי באופן בלעדי -‬

662
00:52:12,504 --> 00:52:14,548
‫מכונה תוכל לבצע את ההרג,‬

663
00:52:15,674 --> 00:52:18,927
‫אבל רק בהנחיית מפעיל אנושי‬

664
00:52:19,553 --> 00:52:21,429
‫ואיני מתאר לעצמי שמצב זה ישתנה.‬

665
00:52:24,808 --> 00:52:28,103
‫מבטיחים לנו שהטכנולוגיה הזו תהיה בטוחה.‬

666
00:52:29,020 --> 00:52:32,691
‫- מסמכי פנטגון סודיים מצביעים על כישלון‬
‫בתקיפות אוויר קטלניות -‬

667
00:52:32,774 --> 00:52:35,527
‫אך לצבא ארה"ב אין מוניטין מוצלח‬
‫בלוחמת כטב"מים.‬

668
00:52:35,610 --> 00:52:38,864
‫- ארה"ב הסתירה תקיפה אווירית‬
‫שקטלה עשרות אזרחים סוריים -‬

669
00:52:38,947 --> 00:52:41,783
‫ביחס למהימנות הצבא האמריקני‬
‫בשילוב בינה מלאכותית,‬

670
00:52:41,867 --> 00:52:44,953
‫ניתן לומר שביצועי העבר מדברים בעד עצמם.‬

671
00:52:46,288 --> 00:52:50,125
‫מדיניות מחלקת ההגנה האמריקנית‬
‫בכל הקשור לשימוש בנשק אוטונומי‬

672
00:52:50,208 --> 00:52:52,919
‫אינה אוסרת על מערכת נשק כלשהי.‬

673
00:52:53,003 --> 00:52:56,715
‫אפילו אם הצבאות‬
‫לא ירצו מערכות נשק אוטונומיות‬

674
00:52:56,798 --> 00:53:01,678
‫נוכל לראות מצב‬
‫בו צבאות יפקידו החלטות רבות בידי מכונות‬

675
00:53:01,761 --> 00:53:03,680
‫כדי לעמוד בקצב של יריביהם.‬

676
00:53:04,764 --> 00:53:08,351
‫הדבר עשוי להוביל צבאות‬
‫לביצוע החלטות אוטומטיות‬

677
00:53:08,435 --> 00:53:09,978
‫שייתכן שיהיו בלתי רצויות.‬

678
00:53:12,022 --> 00:53:13,440
‫ולדימיר פוטין אמר,‬

679
00:53:13,523 --> 00:53:16,693
‫"מי שיוביל במרוץ הבינה המלאכותית,‬
‫ישלוט בעולם".‬

680
00:53:17,736 --> 00:53:20,572
‫הנשיא שי הבהיר‬

681
00:53:20,655 --> 00:53:25,702
‫שהבינה המלאכותית היא מהטכנולוגיות המובילות‬
‫שסין רוצה לשלוט בהן.‬

682
00:53:26,786 --> 00:53:29,831
‫אין ספק שאנו נתונים בתחרות טכנולוגית.‬

683
00:53:33,501 --> 00:53:35,670
‫ברור שיתקיים דיון באמצעי בטיחות‬

684
00:53:36,463 --> 00:53:39,424
‫ואני מאמין שזה הדבר הנכון לעשות.‬

685
00:53:40,467 --> 00:53:45,180
‫אך מתקיים מרוץ חימוש אמיתי‬
‫בדרך להשגת עליונות בבינה המלאכותית.‬

686
00:53:47,265 --> 00:53:51,603
‫ויריבינו בסין, ברוסיה או באיראן,‬

687
00:53:52,187 --> 00:53:56,566
‫לא יקדישו מחשבה‬
‫למדיניות הבינה המלאכותית שלנו.‬

688
00:54:00,737 --> 00:54:04,699
‫מתקיימות שיחות רבות הרבה יותר‬
‫בנוגע למדיניות השימוש בבינה המלאכותית,‬

689
00:54:06,117 --> 00:54:11,706
‫אך הייתי רוצה שיותר מנהיגים ישוחחו וישאלו,‬
‫"כמה מהר נוכל לבנות את הדבר הזה?"‬

690
00:54:12,707 --> 00:54:15,168
‫"נקצה את כל המשאבים הדרושים ונבנה את זה".‬

691
00:54:16,419 --> 00:54:18,838
‫- וושינגטון די. סי -‬

692
00:54:18,922 --> 00:54:21,299
‫- קרן צבא ארה"ב‬
‫המפגש והתצוגה השנתית -‬

693
00:54:24,177 --> 00:54:26,805
‫- צבא ארה"ב -‬

694
00:54:33,478 --> 00:54:38,358
‫אנו נמצאים בתערוכה הגדולה ביותר‬
‫של סוכנויות הצבא האמריקני.‬

695
00:54:39,609 --> 00:54:46,616
‫בתערוכה זו מתרכזים כל הספקים‬
‫אשר מוכרים מוצרים או טכנולוגיות לצבא.‬

696
00:54:47,701 --> 00:54:49,119
‫בבסיס חיל האוויר "טינדל"‬

697
00:54:49,202 --> 00:54:53,748
‫נמצאים ארבעה מהרובוטים שלנו‬
‫אשר מפטרלים בבסיס ללא הפסקה.‬

698
00:54:55,750 --> 00:55:01,423
‫נוכל להוסיף לרובוטים מצלמות, חיישנים,‬
‫כל דבר שתזדקקו לו. זרועות מתכווננות…‬

699
00:55:01,506 --> 00:55:03,216
‫כל הדרוש ללקוח לביצוע משימתו.‬

700
00:55:03,300 --> 00:55:05,135
‫- מייקל סבהאן‬
‫"גוסט רובוטיקס" -‬

701
00:55:06,678 --> 00:55:12,976
‫מה יקרה אם האויב שלך ישתמש בבינה מלאכותית,‬
‫בנשק שחושב ומגיב מהר מבן אנוש?‬

702
00:55:13,059 --> 00:55:14,978
‫- אורן פולג‬
‫התעשייה האווירית -‬

703
00:55:15,061 --> 00:55:16,062
‫צריך להתכונן לזה.‬

704
00:55:17,605 --> 00:55:21,359
‫אנו מאמנים את המערכות שלנו‬
‫לאסוף מודיעין על האויב‬

705
00:55:22,027 --> 00:55:26,531
‫ומטפלים במטרות האויב‬
‫כשמפעילים אנושיים מפקחים על שרשרת ההרג.‬

706
00:55:31,202 --> 00:55:33,204
‫- שילד AI -‬

707
00:55:33,288 --> 00:55:36,416
‫שלום, הגנרל. שמי ברנדון צנג. טוב, תודה.‬
‫-מה שלומך?‬

708
00:55:37,667 --> 00:55:41,129
‫אקדים ואומר שאנו גדולי המשקיעים‬
‫בטייס מבוסס בינה מלאכותית.‬

709
00:55:41,212 --> 00:55:45,508
‫לטייס הבינה המלאכותית שלנו קוראים "כוורת"‬
‫ויישמנו אותו ברחפן שלנו, נובה.‬

710
00:55:46,009 --> 00:55:50,805
‫הוא נכנס למבנים וסורק אותם‬
‫לפני כניסת הכוחות המיוחדים וחיילי החי"ר.‬

711
00:55:50,889 --> 00:55:56,811
‫אנו מטמיעים את מערכת "כוורת" ב-V-BAT,‬
‫ואני חושב על פריסת מאות צוותים כאלה.‬

712
00:55:56,895 --> 00:56:01,608
‫בין אם מדובר במצרי טאיוואן או באוקראינה,‬
‫כך נוכל להרתיע את אויבינו.‬

713
00:56:01,691 --> 00:56:03,360
‫זה מרגש אותי.‬

714
00:56:03,943 --> 00:56:06,196
‫טוב. תודה.‬
‫-תודה לך, אדוני הגנרל.‬

715
00:56:07,989 --> 00:56:13,370
‫טייסים מבוססי בינה מלאכותית‬
‫צריכים להיות נפוצים מאוד עד 2025 או 2030.‬

716
00:56:14,204 --> 00:56:17,582
‫צבאות רבים בעולם‬
‫ימהרו לאמץ את הטכנולוגיה הזו.‬

717
00:56:19,250 --> 00:56:23,296
‫מה תעשה עם הצבא הרומני ואיש הכטב"מים שלהם?‬
‫-…היי-טק בצבא.‬

718
00:56:23,380 --> 00:56:26,049
‫- מייצרים את טייס הבינה המלאכותית‬
‫הטוב בעולם -‬

719
00:56:26,132 --> 00:56:29,803
‫עד כה, השקענו כחצי מיליארד דולר‬
‫ביצירת טייס בינה מלאכותית.‬

720
00:56:29,886 --> 00:56:33,181
‫בחמש השנים הבאות, נשקיע עוד מיליארד דולר.‬

721
00:56:33,264 --> 00:56:37,769
‫זו סיבה עיקרית לכך שאנו זוכים במכרזים‬
‫מטעם מחלקת ההגנה.‬

722
00:56:37,852 --> 00:56:38,853
‫נחמד.‬

723
00:56:38,937 --> 00:56:42,732
‫כאילו, זה מרשים. הצלחתם לחמש את המערכת?‬

724
00:56:43,650 --> 00:56:45,568
‫היא עדיין לא חמושה.‬

725
00:56:45,652 --> 00:56:48,321
‫עדיין לא. אבל בעתיד נחמש אותה.‬
‫-בעתיד.‬

726
00:56:48,905 --> 00:56:52,700
‫לקוחותינו רואים במערכת הזו כמשאית.‬
‫בעינינו, זו משאית אינטליגנטית‬

727
00:56:52,784 --> 00:56:54,452
‫שיכולה לעשות דברים רבים.‬

728
00:56:54,536 --> 00:56:55,703
‫תודה, חבר.‬
‫-כן.‬

729
00:56:55,787 --> 00:56:57,914
‫אני אמשיך להתקדם מולך.‬

730
00:57:01,668 --> 00:57:04,129
‫אם תחזרו בעוד עשר שנים‬

731
00:57:04,212 --> 00:57:10,802
‫תראו שהבינה המלאכותית והאוטונומיה‬
‫שולטות בשוק.‬

732
00:57:14,889 --> 00:57:19,352
‫כוחות מבוססים בינה מלאכותית ואוטונומיה‬

733
00:57:19,436 --> 00:57:25,108
‫ישלטו, ימחצו‬
‫וישמידו כוחות ללא טכנולוגיה זו.‬

734
00:57:26,401 --> 00:57:30,780
‫אפשר יהיה להקביל את הדבר‬
‫לפרשים כנגד טנקים‬

735
00:57:31,781 --> 00:57:34,367
‫לחיילים חמושים בחרבות כנגד מכונות ירייה.‬

736
00:57:34,909 --> 00:57:37,120
‫הקרב אפילו לא יהיה צמוד.‬

737
00:57:38,746 --> 00:57:42,750
‫הטכנולוגיה הזו תהיה בשימוש בכל פינה,‬
‫היא תשפיע על כל היבטי הלחימה,‬

738
00:57:43,585 --> 00:57:44,836
‫ברמה הטקטית,‬

739
00:57:45,336 --> 00:57:46,546
‫ברמה האסטרטגית,‬

740
00:57:47,172 --> 00:57:50,800
‫הטכנולוגיה הזו תפעל במהירות כזו‬
‫שלא ניתן לדמיין כיום.‬

741
00:57:53,094 --> 00:57:57,098
‫המפקדים בשטח מוצפים גם כך במידע.‬

742
00:57:57,599 --> 00:58:01,019
‫הם נחשפים לתמונות לוויין,‬
‫לצילומי רחפנים ולמידע מחיישנים.‬

743
00:58:02,103 --> 00:58:06,774
‫אחד הדברים שהבינה המלאכותית תוכל לעשות‬
‫היא לסייע למפקד להבין את המתרחש מהר יותר,‬

744
00:58:07,650 --> 00:58:09,903
‫ולשאול, "מהן ההחלטות שעליי לקחת?"‬

745
00:58:11,237 --> 00:58:17,702
‫הבינה המלאכותית תתחשב בכל הגורמים‬
‫אשר קובעים את דרך ניהול המלחמה‬

746
00:58:18,286 --> 00:58:20,246
‫וביכולתה יהיה להציע אסטרטגיות…‬

747
00:58:22,540 --> 00:58:25,668
‫ולתת המלצות כדי לנצח בקרב.‬

748
00:58:30,256 --> 00:58:32,133
‫- סאפוק‬
‫וירג'יניה -‬

749
00:58:32,217 --> 00:58:34,344
‫- מרכז החדשנות‬
‫לוקהיד מרטין -‬

750
00:58:36,971 --> 00:58:40,266
‫אנו, בלוקהיד מרטין,‬
‫בדומה ללקוחותינו במחלקת ההגנה,‬

751
00:58:40,350 --> 00:58:45,104
‫רואים בבינה המלאכותית‬
‫כטכנולגיית מפתח לפיקוד ושליטה.‬

752
00:58:47,065 --> 00:58:50,109
‫קצב הפריסה‬
‫מתנהל במהירות ממוצעת של 60 ס"מ בשנייה.‬

753
00:58:50,193 --> 00:58:52,278
‫שטח הגזרה הוא כ-2800 דונם.‬

754
00:58:52,779 --> 00:58:55,782
‫בכל הקשר להגנה,‬
‫ערפל המלחמה הוא מציאותי מאוד עבורנו,‬

755
00:58:57,158 --> 00:59:03,206
‫אך הדבר משותף גם לשהייה בשטח‬
‫וקבלת החלטות בנוגע לשרפות יער.‬

756
00:59:03,289 --> 00:59:06,543
‫השרפה בוושבורן נמצאת צפונית לעיר ומונה.‬

757
00:59:06,626 --> 00:59:09,629
‫יש לקבל החלטות גם על סמך מידע חלקי.‬

758
00:59:10,630 --> 00:59:14,300
‫איך הבינה המלאכותית‬
‫תוכל לסייע לנו לפוגג את ערפל המלחמה?‬

759
00:59:17,637 --> 00:59:19,597
‫שרפות יער הן פרועות.‬

760
00:59:20,181 --> 00:59:21,266
‫הן מורכבות מאוד‬

761
00:59:22,267 --> 00:59:27,855
‫ואנו מנסים לנצל את הבינה המלאכותית‬
‫כדי לסייע בתהליך קבלת ההחלטות.‬

762
00:59:31,401 --> 00:59:32,902
‫"מנהל המשימות הקוגניטיבי"‬

763
00:59:32,986 --> 00:59:37,949
‫הוא תוכנה שאנו מפתחים‬
‫אשר מצלמת סרטוני אינפרא אדום מהאוויר‬

764
00:59:38,032 --> 00:59:41,786
‫ואז מעבדת אותם‬
‫באמצעות אלגוריתמים מבוססי בינה מלאכותית‬

765
00:59:41,869 --> 00:59:45,248
‫מתוך מטרה לחזות את התפתחות השרפה.‬

766
00:59:48,042 --> 00:59:52,922
‫בעתיד, מנהל המשימות הקוגניטיבי‬
‫ישתמש בסימולציות,‬

767
00:59:53,006 --> 00:59:57,635
‫ידמה תרחישים במעל לאלף מחזורים‬
‫כדי להמליץ על הדרך היעילה ביותר…‬

768
00:59:57,719 --> 01:00:00,722
‫- דן לורדן‬
‫הטמעת בינה מלאכותית, לוקהיד מרטין -‬

769
01:00:00,805 --> 01:00:04,058
‫לשימוש ופריסת משאבים‬
‫לדיכוי מוקדי השרפה המתועדפים.‬

770
01:00:08,062 --> 01:00:12,400
‫המערכת תאמר,‬
‫"בצעו כאן כיבוי מהאוויר ממסוקי פיירהוק.‬

771
01:00:13,568 --> 01:00:15,903
‫"פרסו יחידות קרקעיות המפנות סבך,‬

772
01:00:16,946 --> 01:00:19,032
‫"הציבו כבאים אשר מכבים שרפות בצינור‬

773
01:00:19,657 --> 01:00:23,077
‫והביאו אותם לאזורי העדיפות".‬

774
01:00:26,289 --> 01:00:29,292
‫ההחלטות האלה יתקבלו מהר יותר‬

775
01:00:29,375 --> 01:00:31,044
‫וביעילות רבה יותר.‬

776
01:00:35,840 --> 01:00:38,635
‫בעינינו, הבינה המלאכותית‬
‫תאפשר למפעיליה האנושיים‬

777
01:00:38,718 --> 01:00:42,305
‫להצליח להתמודד עם סביבה המשתנה ללא הרף.‬

778
01:00:43,389 --> 01:00:46,517
‫וישנם מספר קווי דמיון‬

779
01:00:46,601 --> 01:00:50,355
‫המקבילים לתפקוד ההגנתי‬
‫המוכר לנו בלוקהיד מרטין.‬

780
01:00:52,231 --> 01:00:57,945
‫הצבא פסק לעסוק בשימוש שטחי בבינה מלאכותית,‬
‫המתמצה ביישומה במערכות נשק בודדות‬

781
01:00:58,029 --> 01:01:00,031
‫ובבחירות מטרה ובהחלטה להרוג.‬

782
01:01:00,865 --> 01:01:05,787
‫הצבא דן בהטמעת הבינה המלאכותית‬
‫במבנה ההיררכי המקבל החלטות בצבא.‬

783
01:01:09,457 --> 01:01:12,960
‫לצבא יש פרויקט גדול בשם "פרויקט ההתכנסות".‬

784
01:01:14,545 --> 01:01:16,589
‫לצי יש פרויקט בשם "אוברמאץ'".‬

785
01:01:16,673 --> 01:01:19,592
‫ולחיל האוויר יש מערכת ניהול קרב מתקדמת.‬

786
01:01:21,886 --> 01:01:24,138
‫במחלקת ההגנה שואלים,‬

787
01:01:24,222 --> 01:01:26,683
‫"איך נחבר הכול יחד‬

788
01:01:26,766 --> 01:01:29,268
‫"כדי שנוכל לפעול מהר יותר מיריבינו‬

789
01:01:30,478 --> 01:01:32,397
‫"ולהשיג יתרון משמעותי?"‬

790
01:01:33,481 --> 01:01:37,527
‫מנהל קרב בינה מלאכותית יהיה גנרל בכיר‬

791
01:01:37,610 --> 01:01:39,821
‫אשר יופקד על הקרב.‬

792
01:01:41,155 --> 01:01:44,158
‫הוא יסייע במתן פקודות לכוחות גדולים,‬

793
01:01:45,118 --> 01:01:49,247
‫בתיאום פעולות כלל כלי הנשק בשטח,‬

794
01:01:49,330 --> 01:01:51,958
‫ויעשה זאת במהירות על-אנושית.‬

795
01:01:53,543 --> 01:01:55,294
‫ב-70 השנים האחרונות‬

796
01:01:55,378 --> 01:01:58,756
‫בנינו את הצבא המתוחכם ביותר בכדור הארץ‬

797
01:01:58,840 --> 01:02:04,595
‫וכעת עלינו להחליט‬
‫האם להעביר את השליטה בתשתית הזו‬

798
01:02:04,679 --> 01:02:07,598
‫לשליטת אלגוריתם, לתוכנה.‬

799
01:02:10,351 --> 01:02:13,187
‫השלכות ההחלטה הזו‬

800
01:02:13,271 --> 01:02:16,774
‫עשויות להוציא לפועל‬
‫את מלוא הכלים בארסנל הצבאי שלנו.‬

801
01:02:16,858 --> 01:02:19,902
‫זו לא הירושימה אחת, אלא מאות.‬

802
01:02:25,616 --> 01:02:27,869
‫עלינו לפעול עכשיו‬

803
01:02:27,952 --> 01:02:33,166
‫בגלל שחלון ההזדמנויות לשלוט בסיכון הזה‬
‫נסגר במהירות.‬

804
01:02:34,041 --> 01:02:35,460
‫- האו"ם‬
‫27 בספטמבר 2021 -‬

805
01:02:35,543 --> 01:02:41,132
‫היום נדון באתגרים ביטחוניים בין-לאומיים‬
‫אשר מציבות בפנינו הטכנולוגיות החדשות…‬

806
01:02:41,215 --> 01:02:42,049
‫- יו"ר -‬

807
01:02:42,133 --> 01:02:44,343
‫בתחום מערכות נשק אוטונומיות קטלניות.‬

808
01:02:44,427 --> 01:02:45,720
‫מתקיימות שיחות באו"ם…‬

809
01:02:45,803 --> 01:02:47,472
‫- מזכירה‬
‫הפדרציה הרוסית -‬

810
01:02:47,555 --> 01:02:50,016
‫בנוגע לאיום ממערכות נשק קטלני אוטונומי…‬

811
01:02:50,099 --> 01:02:50,933
‫- ארה"ב -‬

812
01:02:51,017 --> 01:02:56,564
‫וביחס לאיסור על מערכות‬
‫בהן הבינה המלאכותית בוחרת מטרות אנושיות.‬

813
01:02:56,647 --> 01:02:59,525
‫בקרב המומחים לטכנולוגיה‬
‫קיימת הסכמה מלאה וברורה.‬

814
01:02:59,609 --> 01:03:00,735
‫- מכון עתיד החיים -‬

815
01:03:00,818 --> 01:03:04,614
‫אנו מתנגדים למערכות נשק אוטונומיות‬
‫אשר רואות בבני האדם כמטרה.‬

816
01:03:05,615 --> 01:03:10,745
‫מדינות דנו במערכות נשק קטלני אוטונומי‬
‫ולאורך שנים שיתפו פעולה בדיונים…‬

817
01:03:10,828 --> 01:03:14,373
‫- רובוטים קטלניים אינם מדע בדיוני.‬
‫קריאות לאיסור שימוש בהם -‬

818
01:03:14,457 --> 01:03:17,794
‫מדובר בתחושת ביטחון מקיף ומשותף.‬
‫אך זה לא קל, כמובן.‬

819
01:03:17,877 --> 01:03:21,798
‫- מזכ"ל האו"ם דוחק לפעול‬
‫בנושא "הרובוטים הקטלניים" בוועידה בז'נבה -‬

820
01:03:21,881 --> 01:03:27,762
‫מדינות מסוימות, ובמיוחד המעצמות הצבאיות‬
‫רוצות להיות המתקדמות ביותר,‬

821
01:03:27,845 --> 01:03:29,263
‫כך שיקדימו את יריבותיהן.‬

822
01:03:29,347 --> 01:03:32,767
‫- רוסיה לאו"ם: אל תנסו למנוע מאיתנו‬
‫לבנות רובוטים קטלניים -‬

823
01:03:32,850 --> 01:03:37,146
‫הבעיה היא שדרושה הסכמה כללית‬
‫לפני נקיטת פעולה. תמיד תימצא מדינה שתתנגד…‬

824
01:03:37,230 --> 01:03:40,233
‫- גורמים בארה"ב‬
‫דוחים את החרם על "רובוטים קטלניים" -‬

825
01:03:40,316 --> 01:03:45,655
‫ובהחלט, ארה"ב ורוסיה הבהירו שאין בכוונתן‬
‫לחתום על אמנה שתאסור נשקים אוטונומיים.‬

826
01:03:47,198 --> 01:03:53,204
‫אם נחשוב על מספר האנשים‬
‫העובדים כדי לשכלל את הבינה המלאכותית,‬

827
01:03:54,747 --> 01:03:56,457
‫נקבל חדר צפוף מאוד.‬

828
01:03:57,750 --> 01:04:02,880
‫כשאנו חושבים על חדר ובו אנשים הרוצים לוודא‬
‫שהבינה המלאכותית בטוחה לשימוש,‬

829
01:04:04,340 --> 01:04:07,510
‫אנו מקבלים חדר עם הרבה יותר מקום פנוי.‬

830
01:04:11,764 --> 01:04:13,724
‫אבל אני גם אופטימית מאוד.‬

831
01:04:16,060 --> 01:04:19,480
‫אני נזכרת בדברים כגון אמנת הנשק הביולוגי‬

832
01:04:19,564 --> 01:04:22,358
‫אשר קרמה עור וגידים בעיצומה של המלחמה הקרה‬

833
01:04:23,025 --> 01:04:27,655
‫למרות המתחים בין בריה"מ לארה"ב.‬

834
01:04:29,156 --> 01:04:33,536
‫שתי המעצמות הבינו שפיתוח נשק ביולוגי‬

835
01:04:33,619 --> 01:04:36,247
‫לא ישרת את האינטרסים שלהן‬

836
01:04:36,330 --> 01:04:38,749
‫ולא ישרת את האינטרסים העולמיים.‬

837
01:04:41,335 --> 01:04:44,714
‫מרוצי חימוש מתמקדים במהירות ולא בבטיחות.‬

838
01:04:45,715 --> 01:04:49,385
‫אך לדעתי, חשוב לשים לכך שבשלב מסוים,‬

839
01:04:49,468 --> 01:04:52,430
‫להתקדמות המהירה עשוי להיות מחיר גבוה מדי.‬

840
01:04:56,225 --> 01:05:01,355
‫לא נוכל לפתח דברים שונים בתנאי מעבדה‬
‫ולשחרר אותם לשוק‬

841
01:05:01,439 --> 01:05:06,611
‫מבלי להקדיש מחשבה‬
‫למקומות אליהם הם עלולים להגיע.‬

842
01:05:07,862 --> 01:05:10,990
‫עלינו למנוע את הרגע הזה,‬
‫בו מתרחשת הפריצה לפצצת האטום.‬

843
01:05:14,577 --> 01:05:17,788
‫המרוץ לעליונות בבינה המלאכותית‬
‫מונע משיקולים כבדי משקל.‬

844
01:05:18,289 --> 01:05:24,045
‫לדעתי, אין רבים בציבור‬
‫המעריכים את היציבות הגלובלית ממנה נהנינו‬

845
01:05:24,128 --> 01:05:31,135
‫בשל עליונותו של הכוח הצבאי הצבאי שברשותנו‬
‫ב-75 השנים האחרונות.‬

846
01:05:32,887 --> 01:05:38,684
‫ולכן ארה"ב ובעלות בריתה‬
‫צריכים בינה מלאכותית טובה יותר מהיריב.‬

847
01:05:43,314 --> 01:05:44,774
‫במלחמה אין מקום שני.‬

848
01:05:45,524 --> 01:05:49,111
‫סין שואפת להוביל את העולם‬
‫בתחום הבינה המלאכותית עד ל-2030.‬

849
01:05:49,195 --> 01:05:51,656
‫זהו מרוץ שיש אומרים שארה"ב מפסידה בו…‬

850
01:05:51,739 --> 01:05:55,743
‫- אמריקה מפסידה במרוץ הבינה המלאכותית‬
‫האם אמריקה מפנה את הבמה לסין? -‬

851
01:05:55,826 --> 01:05:59,246
‫עליכם להאיץ את הטמעת הבינה המלאכותית‬
‫להבטת יתרוננו הצבאי.‬

852
01:06:02,875 --> 01:06:05,461
‫אנו אצים קדימה עם הטכנולוגיה הזו.‬

853
01:06:05,544 --> 01:06:08,673
‫לדעתי, לא ברור כמה רחוק נגיע.‬

854
01:06:09,507 --> 01:06:12,760
‫האם אנחנו נשלוט בטכנולוגיה‬
‫או שהטכנולוגיה תשלוט בנו?‬

855
01:06:14,136 --> 01:06:16,973
‫לא נקבל הזדמנות שנייה.‬

856
01:06:17,807 --> 01:06:20,977
‫ברגע שהשד יצא מהבקבוק, אין דרך חזרה.‬

857
01:06:22,019 --> 01:06:25,189
‫יהיה קשה מאוד להחזיר אותו לבקבוק.‬

858
01:06:28,609 --> 01:06:31,737
‫אם לא נפעל עכשיו, יהיה מאוחר מדי.‬

859
01:06:33,114 --> 01:06:34,657
‫אולי כבר מאוחר מדי.‬

860
01:08:48,124 --> 01:08:53,254
‫תרגום כתוביות: גיא ברדך‬