ChatGPT לא כתב את המאמר הזה וגם לא ביקשנו ממנו לענות על השאלה מהכותרת. אבל אנחנו מניחים שחלק מהדברים במאמר הזה הוא יוכל לכתוב בעצמו...
הטכנולוגיה הנוכחית מאפשרת בצורה חכמה ואוטומטית לספק תשובות לשיעורי בית, עבודות מחקר, תגובות משפטיות, אבחנות רפואיות ושלל דברים אחרים, שיכולים להיראות כאילו הם יצירה של בני אדם. אבל האם הטכנולוגיה הזאת תוסיף בצורה משמעותית למאות אלפי דגימות זדוניות שאנו כבר רואים ומעבדים מדי יום, או יהיו חיקוי פשוט של נוזקה זדונית שקל לזהות?
ChatGPT נראה קצת "טוב מדי" מכדי לא להיחשב כמתחרה רציני שצריך להילקח בחשבון. כשמשני צדדי המתרס התוקפים והמגנים משתמשים במודלים העדכניים ביותר של למידת מכונה (ML), זה היה חייב לקרות.
אבל, בשביל לייצר טכנולוגיה טובה נגד תוכנות זדוניות, זה לא רק טכנולוגיה, מאז ומתמיד נדרשה התערבות אנושית מסוימת: קבענו זאת לפני שנים רבות, למורת רוחם של ספקים שמשתמשים אך ורק באוטומציות של מכונת למידה (ML).
בעוד שמודלים של מכונת למידה (ML) שימשו עבור ניתוחים ואנליזות מורכבות, הם לא יכולים להיות כפתור אדום גדול "להרוג תוכנות זדוניות". תוכנה זדונית היא פשוט, לא כל כך פשוטה.
אבל ליתר ביטחון, שאלנו את המומחים של ESET:
כמה טובה תהיה תוכנה זדונית שנוצרה באמצעות ChatGPT, האם זה בכלל אפשרי?
אנחנו לא ממש קרובים ל"תוכנות זדוניות מלאות שנוצרו על ידי בינה מלאכותית", למרות ש-ChatGPT די טוב בהצעת קוד, ביצירת דוגמאות קוד וקטעי קוד, באגים ואופטימיזציה של קוד, ואפילו באוטומציה של דוקומנטציה ותיעוד.
מה לגבי תכונות מתקדמות יותר?
אנחנו לא יודעים עד כמה ChatGPTטוב ב'ערפול קוד' (Obfuscation).
ראינו מקרים בהם הצ'אט, יודע להמיר שפת מכונה לשפת תכנות עלית וכך אנחנו מבינים, שיש לצ'אט את היסודות שיאפשרו בהמשך יכולות מתקדמות יותר בערפול קוד.
בסך הכל, הצ'אט הוא כלי עזר מעולה לכותבי הנוזקות, ואולי זה רק השלב הראשון בהפיכה לכלי שיכתוב נוזקות בצורה עצמאית, אך עם זאת, אנחנו עדיין לא שם.
כמה ChatGPT טוב עכשיו?
ChatGPT מרשים מאוד והיכולות שלו מפתיעות אפילו את היוצרים של מודלים כאלה. עם זאת, כרגע הוא מאוד רדוד, עושה שגיאות ולא ממש אמין למשהו רציני. אבל נראה שהוא תופס מקום במהירות, אם לשפוט לפי השיח וכמות המשתמשים שמתנסים בו.
מה זה יכול לעשות עכשיו לפלטפורמה?
לעת עתה, אנו רואים שלושה תחומים סבירים של אימוץ ושימוש זדוני:
הונאות פישינג אמינות יותר
אם אתם חושבים שהונאות פישינג נראות משכנעות היום, המיילים יהיו ברמה גבוהה הרבה יותר ויהיו בעלי מבנה ספציפי שיהיה קשה מאוד לזהות על סמך התוכן שלהם. לא תוכל לזהות אותן בקלות עקב טעויות שפה מרושלות; הידע שלהם בשפת האם שלך כנראה טוב משלך. מכיוון שחלק גדול מההתקפות הגדולות ביותר מתחילות כשמישהו בארגון לוחץ על קישור פישינג המתחזה לקישור אמיתי, צפו שההשפעה תהיה עליה משמעותית בניסיונות פישינג "איכותיים".
אוטומציה של משא ומתן כופר
נדירים המקרים בהם מפעילי נוזקות כופר יודעים לתקשר בצורה חלקה. הוספת קצת מיכולות ChatGPT לתקשורת, יכולה להוריד את עומס העבודה של התוקפים במהלך המשא ומתן. המשמעות היא גם פחות טעויות שעלולות לאפשר למגינים לחשוף את הזהות האמיתית והמיקומים של המפעילים.
שיפור בהונאות טלפוניות
עם שיפור מנועי יצירת קול אוטומטיים, תוקפים יוכלו להישמע כאילו הם מהאזור שלך והאינטרסים שלך בראש מעייניהם. זהו אחד מהשלבים הראשונים בהונאת ביטחון עצמי: להישמע בטוח יותר בכך שהוא נשמע כאילו הוא משתייך לאותה קבוצה כמוך.
אם כל זה נשמע כאילו זה שייך לעתיד הרחוק, חשבו שנית. זה לא יקרה בבת אחת, אבל פושעים עומדים להשתפר בהרבה.