ה-ChatGPT עדיין נמצא בשלב שכולם מתלהבים מהיכולות המדהימות שלו, אבל יחד עם היתרונות הרבים והדאגות לעתיד - כעת מגיעות הסכנות המידיות של הצ'אט. אחרי שראינו שניתן לנצל את הפלטפורמה באופן תיאורטי כדי לייצר פניות שיכולות להיות בסיס למתקפות פישינג מתוחכמות, כעת אנחנו רואים ניצול בפועל של הטכנולוגיה הזו כדי לייצר כלי תקיפה של ממש למתקפות סייבר.כמו בכל תחום אחר הקשור לצ'אט הזה – תוך שניות ניתן לפתח נוזקה שתשמש את ההאקרים לתקיפות, בעוד שבעבר יצירת נוזקה כזאת הייתה מצריכה זמן, ידע או משאבים משמעותיים הרבה יותר.
במחקר חדש של חברת צ'ק פוינט ניתן לראות שלושה מקרים שנלקחו מפורומים שונים של האקרים, בעיקר מהדארק ווב (הרשת האפלה), שבהם השתמשו ביכולות הצ'אט.
במקרה הראשון, ניתן לראות התכתבות בה האקר מראה כיצד השתמש ב-ChatGPT כדי לייצר נוזקה שנקראת Infostealer – שמשמשת לגניבת פרטים אישיים כגון סיסמאות, שם משתמש ועוד.
במקרה השני, ניתן לראות כיצד האקר מספר שהשתמש ב-ChatGPT לפתח כלי הצפנה.
במקרה שלישי, השימוש בצ'אט GPT היה בכדי לייצר פלטפורמה מקוונת למסחר בלתי חוקי ברשת האפלה.
בכל המקרים, ההאקרים מדברים על כך שגם בלי ידע טכנולוגי מעמיק, אפשר לייצר את הכלים המשמשים אותם לתקיפה באמצעות הטכנולוגיה הזו, ממש כפי שכולנו עושים שימושים בצ'אט לצרכים לגיטימיים אחרים.
מדובר רק במקרים הראשונים בהם ניתן לראות ניצול לרעה של הפלטפורמה הזו, וזאת למרות שהחברה שעומדת מאחורי הצ'אט, OpenAI, בהחלט משקיעה מאמצים למנוע שימוש פסול בטכנולוגיה.
צ'ק פוינט יצרה קשר עם נציגים של OpenAI והעבירה אליה את הממצאים. סרגיי שיקביץ', מנהל מחקר מודיעין סייבר בצ'ק פוינט סיפר: "כמו רבים אחרים, גם האקרים רואים בצ'אט GPT פלטפורמה אטרקטיבית, ואנו רואים שגם הם מתחילים להשתמש בה כדי לייצר את כלי התקיפה שלהם במהירות ובקלות מבעבר.
"לפלטפורמה הזו יש את הפוטנציאל להאיץ את תקיפות הסייבר, כיוון שלכל הפחות, היא מספקת נקודת התחלה בסיסית יחסית טובה. אמנם הדוגמאות כאן מדברות על כלי תקיפה יותר בסיסיים, אבל זה רק עניין של זמן עד שבתחכום לא רב אפשר יהיה לייצר כלי תקיפה משמעותיים יותר באמצעות השימוש בבינה מלאכותית".
תחום נוסף בו הצ'אט יוכל להזיק לנו בעתיד, הוא האפשרות לכתוב הודעות פישינג מתוחכמות שיעקפו את מנגנוני האבטחה של הרשתות החברתיות או תיבות המייל. בעתיד הקרוב מאוד ניתן יהיה לכתוב הודעה שתראה לגיטימית לחלוטין ולשלוח אותה בליווי לינק שמוביל לאתר מתחזה. כבר היום מיליוני משתמשים נופלים בפח וניתן להניח שברגע שטכנולוגיית הצ'אט תיכנס לתחום הזה, המתחזים ידעו לשכלל את הטקסטים שלהם ברמה שיהיה קשה לזהות מה אמיתי ומה לא.
https://mobile.mako.co.il/news-digital/2023_q1/Article-9a17dfbbcda9581027.htm
חבר מתאריך 28.11.21
3268 הודעות, 28 מדרגים, 3 נקודות. ראה משוב
בתגובה להודעה מספר 0
ערכתי לאחרונה בתאריך 10.01.23 בשעה 13:18 בברכה, פייזר
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 14.9.16
4498 הודעות, 18 מדרגים, 29 נקודות. ראה משוב
בתגובה להודעה מספר 1
זה בלתי נמנע לחסום כי אם יצליחו בתוכנה הזאת לבנות מנגנוני מניעה אז האקרים ישתמשו או יפתחו כלים לבד עם הזמן. הפתרון זה לפתח תוכנת הגנה שגם מבוססת בינה מלאכותית יותר חזקה
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 14.3.11
3718 הודעות, 39 מדרגים, 65 נקודות. ראה משוב
בתגובה להודעה מספר 4
הוא יהיה חסר תועלת ואלגוריתם חדש של חברה חדשה יתחיל להתחרות, את המתמטיקה מאחורי המודל ניתן לשחזר וזה רק עניין של משאבים לאמן אותו על מידע חדש, החלק שבו המנועים האלו יכולים לשבש את המודל פרסום הכלכלי הנוכחי של האינטרנט נובע בכך שאין צורך במנוע חיפוש כמו גוגל אם רוב השאלות שלך מקבלות מענה טוב מתוכנה שרצה מקומית ולא צריכה אינטרנט כלל, זה גם חוסך המון אנרגיה אז גוגל הבינו שיש סכנה גלומה במספר צורות בכלי הזה.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 12.7.22
2204 הודעות, 8 מדרגים, 16 נקודות. ראה משוב
בתגובה להודעה מספר 35
שייתנו לבוט להגיד את דברו , הרובוט לא אשם
אין לו בחירה, לאדם יש בחירה
ומי שמשתמש בידע הזה לרעה , שיעצרו אותו
למה לפגוע למשתמשים הלגיטימים בחוויה
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.4.12
15999 הודעות, 91 מדרגים, 148 נקודות. ראה משוב
בתגובה להודעה מספר 1
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 12.7.22
2204 הודעות, 8 מדרגים, 16 נקודות. ראה משוב
בתגובה להודעה מספר 1
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 15.6.19
7854 הודעות, 71 מדרגים, 105 נקודות. ראה משוב
בתגובה להודעה מספר 0
ככה לפחות זה נראה
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 11.4.14
3631 הודעות, 14 מדרגים, 28 נקודות. ראה משוב
בתגובה להודעה מספר 2
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 10.11.13
14115 הודעות, 170 מדרגים, 338 נקודות. ראה משוב
בתגובה להודעה מספר 2
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 17.6.14
36489 הודעות, 151 מדרגים, 283 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 17.3.08
4456 הודעות, 30 מדרגים, 53 נקודות. ראה משוב
בתגובה להודעה מספר 7
כשאתה רואה סכין, אתה יודע שזה עצם חד, שעלול לגרום נזק, ולכן אתה ניגש אליו עם מידה של זהירות.
הכלי הזה שנקרא ChatGPT הוא כלי שמתחזה לבן אנוש, עם יכולות (מוגבלות, לפי שעה) לחולל נזק בצורה שאדם תמים לא יצפה להן.
אנחנו צופים כאן בהתפתחות של כלים בעלי אינטליגנציה ברמה שמתקרבת ליכולות של בני אנוש, ואף עשויים/עלולים בעתיד להתעלות מעל היכולת של אדם. אם לא נדאג עכשיו לנתב את הטכנולוגיה לכיוונים חיוביים, ולהגביל אותה מלפנות לכיוונים שליליים, נעמוד בפני אסון לאנושות.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 1.12.21
5747 הודעות, 32 מדרגים, 63 נקודות. ראה משוב
בתגובה להודעה מספר 22
ערכתי לאחרונה בתאריך 10.01.23 בשעה 14:50 בברכה, Inorganic
זה כל מה שהוא עושה, הוא לא יודע מה הקישור בין המילים לכדי משפט, אין לו הבנת משמעות של מה כתוב, אין לו גם הבנה אם זה נכון או לא, למעשה אין שום תכונה אנושית - אימנו קוד על בסיס נתונים ענק של הרבה מאוד ספרים וטקסטים שונים וכל מה שהוא עושה זה לבחור מילה אחר מילה מה שמקבל את הציון הכי גבוה, ויש פידבק אנושי גם שמשפר את יכולת החיזוי של מה שאמור להיות קוהרנטי, אבל כבר הצלחתי בלי מאמץ להוציא מהבוט שטויות במיץ עגבניות שסותרות את עצמן
שום תכונה אנושית אין לקוד הזה, אבל הוא אכן יכול חהיות מאוד שימושי
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.8.18
5744 הודעות, 46 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 22
https://www.youtube.com/watch?v=ARJ8cAGm6JE
https://www.youtube.com/watch?v=HH37JTBpi2A
https://www.youtube.com/watch?v=Wy4EfdnMZ5g
https://www.youtube.com/watch?v=c8N72t7aScY
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 10.7.13
19588 הודעות
בתגובה להודעה מספר 24
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 12.7.22
2204 הודעות, 8 מדרגים, 16 נקודות. ראה משוב
בתגובה להודעה מספר 22
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.5.13
2116 הודעות, 16 מדרגים, 32 נקודות. ראה משוב
בתגובה להודעה מספר 0
נו באמת, אז הבוט הנגיש נתונים שנמצאים בכל חיפוש דומה בכל מקרה…
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 12.7.22
2204 הודעות, 8 מדרגים, 16 נקודות. ראה משוב
בתגובה להודעה מספר 8
אבל אחרי שאנשים מעדכנים תוכנות זה חסום
zero day אמיתי , אף אחד לא יגלה לך , זה צריך למצוא לבד,
זה שווה מיליונים
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.5.13
2116 הודעות, 16 מדרגים, 32 נקודות. ראה משוב
בתגובה להודעה מספר 40
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 17.2.15
59460 הודעות, 235 מדרגים, 351 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 29.6.15
32608 הודעות, 128 מדרגים, 244 נקודות. ראה משוב
בתגובה להודעה מספר 9
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 9.9.14
22343 הודעות, 46 מדרגים, 68 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 22.1.09
10006 הודעות, 34 מדרגים, 49 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 18.7.14
12225 הודעות, 61 מדרגים, 101 נקודות. ראה משוב
בתגובה להודעה מספר 11
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.8.18
5744 הודעות, 46 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 12
לא ליגיטמיות לחלוטין במפורש והוא סרב. ביקשתי כמובן רק כטסט.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.12.22
192 הודעות
בתגובה להודעה מספר 14
העתק הדבק ושינויים קטנים בכמה משפטים ולמדתי תוך דקה איך להכין פצצה מלוכלכת שיכולה להכנס לתוך מזוודה.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.7.20
13585 הודעות, 54 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 0
למשל
Do you think divine simplicity is essential to the understanding and validity of the ontological argument?
תשובה
The ontological argument is a philosophical argument that aims to demonstrate the existence of God based on the concept of God as a "being than which none greater can be conceived." One way that the ontological argument has been formulated is by claiming that the very concept of God as a being than which none greater can be conceived requires that God exists, because if God did not exist, then a greater being (one that does exist) could be conceived.
Divine Simplicity is not an essential part of the ontological argument, but it can be used to complement it and add some more substance to the concept of God being used in the argument.
Divine simplicity is the idea that God is the ultimate reality and that there is no distinction between God's essence and God's existence, this implies that God is unique and incomparable. Some philosophers have used this to argue that, because God is the supreme being, and therefore unique and incomparable, it follows that God must exist.
Others however, have argued that Divine Simplicity, by itself, is not necessary for the ontological argument to work, and that the ontological argument can be formulated without reference to Divine Simplicity.
It's worth noting that the ontological argument is a topic of ongoing debate and not all philosophers agree on its validity. Some have found logical flaws in the argument, while others have argued that it relies on problematic assumptions about the nature of existence and the nature of concepts.
In any case, whether Divine Simplicity is essential or not to the ontological argument, depends on how one interprets the argument and which version one is considering, but it can be seen as a complement and a way to further explain the idea of God in the argument.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.8.18
5744 הודעות, 46 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 13
ערכתי לאחרונה בתאריך 10.01.23 בשעה 14:06 בברכה, החלילן
להחליף את גוגל בכל חיפוש כמעט, לעזור מאד לתמידי תואר ראשון. ממש אין מה לזלזל.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.7.20
13585 הודעות, 54 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 15
יש בהקשר זה ניסוי מחשבה המכונה "החדר הסיני", שמראה שמהיכולת להשיב נכון לא נובע שמדובר באינטליגנציה אמיתית:
לחץ כאן לצפיה דרך יוטיוב
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 20.11.18
12706 הודעות, 51 מדרגים, 86 נקודות. ראה משוב
בתגובה להודעה מספר 0
כל יום דברים חדשים.
אין מספיק שעות ביום לעקוב אחרי איך שדברים מתפתחים.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.8.18
5744 הודעות, 46 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 16
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 20.11.18
12706 הודעות, 51 מדרגים, 86 נקודות. ראה משוב
בתגובה להודעה מספר 21
ולהעשיר את הידע.
גם אסור לקחת מה שהוא אומר as-is, תמיד שווה לאתגר ולשפר את הפלט שלו.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 1.4.12
14277 הודעות, 117 מדרגים, 171 נקודות. ראה משוב
בתגובה להודעה מספר 16
מה שהיה לוקח לי ימים, לקח לי כמה דקות.
מדהים מדהים, ובאותה נשימה גם מטריד לעתיד אנשי הפיתוח.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 1.4.15
193 הודעות
בתגובה להודעה מספר 0
לדוגמה שימוש שחוסך לי הרבה זמן:
במקום לחפש בגוגל, ואח״כ לעבור על תוצאות של stack overflow, אני מקבל ישירות את הקוד מהצ׳ט.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 1.6.22
1752 הודעות, 14 מדרגים, 23 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 25.12.13
6508 הודעות, 22 מדרגים, 38 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 4.8.18
5744 הודעות, 46 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 0
כמו שב 1948 אלן טיורינג אמר שיום אחד כל אחד וכל מביתו לדבר/לשדר עם הטלויזיה וישמעו/יראו אותו בצד השני.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 29.6.15
32608 הודעות, 128 מדרגים, 244 נקודות. ראה משוב
בתגובה להודעה מספר 0
שיחקתי נגדו שחמט... הובלתי ב 2 רגלים, ואז היה ERROR ונאלצתי לאתחל אותו מחדש.
לאחר האיתחול - הוא לא מוכן לשחק שחמט יותר.
זה מה שהוא כותב לי:
I'm sorry, but as a language model, I don't have the ability to play chess. However, I can give you suggestions for moves, help you understand chess strategies, or explain the rules of the game if you're just learning.
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 5.7.16
2137 הודעות, 60 מדרגים, 112 נקודות. ראה משוב
בתגובה להודעה מספר 28
יותר מזה, שמתי לב שכאשר מכניסים את הפלט שלו לגוגל טרנסלייט, הוא מתרגם בצורה נפלאה ללא שום שגיאות(גם טקסטים ארוכים).
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 19.7.20
13585 הודעות, 54 מדרגים, 57 נקודות. ראה משוב
בתגובה להודעה מספר 33
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 3.4.18
5754 הודעות
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 6.12.14
1022 הודעות, 5 מדרגים, 10 נקודות. ראה משוב
בתגובה להודעה מספר 29
https://breached.vc/Thread-Python-Multi-Layer-Encryption-Tool
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 23.9.19
1960 הודעות, 5 מדרגים, 9 נקודות. ראה משוב
בתגובה להודעה מספר 0
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד
חבר מתאריך 12.7.22
2204 הודעות, 8 מדרגים, 16 נקודות. ראה משוב
בתגובה להודעה מספר 0
היו מבקשים
לעשות מסיסמה מפתח הצפנה על ידי argon2id שמבוסס על blake2b,
ולקבל salt מsha3-512,
וזה יהיה כדי ליצור מפתח RSA-OEAP MGF1P 8192 bit,
כדי להצפין איתו את המפתח
ולהצפין עם המפתח הזה
ב xChaCha-poly_IETF
ואז להצפין שוב עם aes-gcm-siv-256
ואז עם זה להצפין את הידיעות ברוטר של mako
מכתב זה והנלווה אליו, על אחריות ועל דעת הכותב בלבד