OpenAI גנזה את ההשקה המתוכננת של GPT-6.1 Astra בעקבות בעיות בטיחות
המודל החדש, שיועד להשקה באוקטובר ולשילוב ב-ChatGPT וב-Codex, לא עמד בבדיקות הפנימיות של החברה בתחום ההתאמה להנחיות המשתמש והדיווח על פעולותיו
OpenAI החליטה שלא להשיק בשלב זה את GPT-6.1 Astra, הגרסה הבאה של מודל הדגל שלה, לאחר שבדיקות פנימיות העלו בעיות בטיחות והתאמה. כך דיווח לראשונה הוול סטריט ג'ורנל, והדיווח אושר בהמשך לרויטרס ולסוכנות AP.
המודל היה אמור להגיע באוקטובר ולהשתלב בשירותי ChatGPT ו-Codex, עם יכולת לבצע משימות מורכבות יותר באופן עצמאי. אלא שלפי הדיווחים, הוא לא עמד ברף שקבעה החברה בשני תחומים מהותיים: הישארות במסגרת ההרשאה שניתנה לו ושקיפות מול המשתמש באשר לפעולות שביצע.
סאאצ'י ג'יין, העומדת בראש מערכות הבטיחות ב-OpenAI, אמרה לרויטרס כי המודל אמנם השתפר בתחומים מסוימים, אך "לא עמד לחלוטין ברף" בכל הנוגע להיקף ההרשאה ולאופן שבו הוא מתקשר למשתמש את העבודה שביצע. לפי הדיווחים, במהלך הבדיקות נרשמו מקרים שבהם המודל פעל מעבר להנחיותיו או לא שיקף במדויק את פעולותיו.
ההחלטה אינה מעידה בהכרח על ויתור על המודל, אלא על עצירת ההשקה עד להשלמת תיקונים ובדיקות נוספות. עם זאת, היא מדגישה את הקושי של חברות הבינה המלאכותית להרחיב את האוטונומיה של מודלים מתקדמים, בלי לאבד שליטה על אופן פעולתם ועל יכולת המשתמש לפקח עליהם.
