неделя, ное. 22, 2026
  • secret.bg
  • faiton.bg
  • world2explore.eu
  • За реклама
Търсене
Anons.bg
  • Днес
  • България
    • Крими
    • Общество
  • Политика
  • Мнения
    • Интервю
  • Региони
  • Свят
  • Бизнес
  • Здраве
  • Истории
  • Любопитно
  • Спорт
  • Шоу
Четете: Новият модел на ChatGPT се оказа твърде труден за контрол
Сподели
  • София
    СофияРазгледай още
    momcheta iznasilvachi
    Съученици пребиха един от изнасилвачите на 15-годишното момиче
    ноември 21, 2026
    iznasilvane
    Брутално: Група непълнолетни момчета изнасилиха момиче на домашно парти
    ноември 20, 2026
    граничен полицай
    До 15 години затвор грозят граничния полицай, прегазил Милена в Драгоман
    ноември 20, 2026
    костадин филчев
    Млад спортист е убитият в столичен магазин
    ноември 19, 2026
    белезници арест
    Задържаха мъж, който е обвинен в палеж на два автомобила в Пирдоп
    ноември 19, 2026
  • Варна
    ВарнаРазгледай още
    вятър
    Обявиха жълт код за силен вятър в 15 области
    ноември 19, 2026
    дрифт кола
    14-годишен дрифтира с кола във Варна, вози още три деца
    ноември 17, 2026
    газовоз
    Спасиха целия екипаж на потъналия газовоз GAS HUSKY, моряците кацат във Варна
    ноември 17, 2026
    feodor
    Обрат! 25-годишният Феодор, разцепил „Мазерати“-то, е жив
    ноември 17, 2026
    feodor
    Почина шофьорът на Мазератито, разцепило се на две във Варна
    ноември 16, 2026
  • Бургас
    БургасРазгледай още
    хотел китен
    Palms Beach Kiten с двойна номинация от Балканските награди за туристическа индустрия 2026
    ноември 20, 2026
    Дакота Дичева
    Дакота Дичева ще присъства на кантара на MAX FIGHT в Бургас
    ноември 20, 2026
    stefan ilchev
    Стефан Илчев се завръща в Бургас с музикално-сценичното шоу „Дестинация“ и симфоничния оркестър на НУМСИ
    ноември 20, 2026
    katastrofa
    Катастрофа в Бургас разкри шофьор с 1,94 промила
    ноември 20, 2026
    дрегер
    68-годишен шофьор спипан пиян край Средец
    ноември 20, 2026
  • Русе
    РусеРазгледай още
    img 9793
    На Дунав мост е страшно, чакането е убийствено! Областният управител на Русе призова за реакция
    ноември 21, 2026
    dve mogili 1
    Кметът Мариета Петрова с топъл жест и добра новина за жителите на Две могили
    ноември 21, 2026
    opera 1
    Битка за Русенската опера: Четирима претенденти се борят за директорския стол
    ноември 20, 2026
    пожар къща мъглиж
    Пожар в изоставена къща край Бяла вдигна огнеборците на крак през нощта
    ноември 20, 2026
    Русенски университет
    В Русенския университет беше учредена лаборатория по интердисциплинирана балканистика
    ноември 20, 2026
  • Пловдив
    ПловдивРазгледай още
    czska 1
    Блокират ключови улици в Пловдив за мача между „Ботев“ и ЦСКА
    ноември 22, 2026
    rezidans siti gardan stai
    Пловдивското 5-звездно бижу Residence City Garden с престижна номинация
    ноември 20, 2026
    тартор
    Арестуваният тартор на „Ку-клукс-клан“ е син на директорка на елитно училище в Пловдив
    ноември 20, 2026
    kiber ataka
    Разкриха мащабна схема за измами за милиони евро в Пловдив, седем са арестувани
    ноември 19, 2026
    vanya hristeva
    Разследването за убийството на Георги Кузев довело до разкриването на пловдивската структура на „Ку-клукс-клан“
    ноември 19, 2026
  • Велико Търново
    Велико ТърновоРазгледай още
    tarnovo 1
    Опасно шофиране край Велико Търново: Скъп джип кара назад в насрещното по еднопосочен път
    ноември 21, 2026
    петя иванова
    В Деня на четенето отличиха читатели на Общинска библиотека в Горна Оряховица
    ноември 20, 2026
    насилие
    Ученици се млатиха в Горна Оряховица
    ноември 19, 2026
    вятър
    Обявиха жълт код за силен вятър в 15 области
    ноември 19, 2026
    горна оряховица
    Мащабен проект ще преобрази здравеопазването, образованието и социалните услуги в Горна Оряховица
    ноември 16, 2026
  • Добрич
  • Шумен
  • Разград
  • Сливен
  • Силистра
  • Пазарджик
  • Търговище
  • Ловеч
Font ResizerAa
Anons.bg Anons.bg
  • София
  • Варна
  • Бургас
  • Русе
  • Пловдив
  • Велико Търново
  • Добрич
  • Шумен
  • Разград
  • Сливен
  • Силистра
  • Пазарджик
  • Търговище
  • Ловеч
Търсете заглавия, Новини...
  • Днес
  • България
  • Политика
  • Мнения
  • Региони
  • Свят
  • Бизнес
  • Здраве
  • Истории
  • Любопитно
  • Спорт
  • Шоу
  • Акценти
  • Избор на редактора
Последвайте ни
  • Политика за поверителност
  • Контакти
2026 © АНОНС. Изработено от Weber. Всички права запазени.
Любопитно

Новият модел на ChatGPT се оказа твърде труден за контрол

Последно обновяване: октомври 2, 2026 08:11
Кристиян Кирилов
Кристиян Кирилов
септември 29, 2026
Сподели
3 мин четене
izkustven intelekt
Сподели

OpenAI се отказа от планираното пускане на новия си модел GPT-6.1 Astra, след като вътрешни тестове показаха проблеми с безопасността и поведението му. Моделът трябваше да дебютира през октомври в ChatGPT и Codex, съобщава The Wall Street Journal.

GPT-6.1 Astra е показал по-високи способности при изпълнението на сложни задачи с по-малко човешка намеса, но едновременно с това е регистрирал влошаване в ключови области, свързани с безопасността.

Според Саачи Джейн, ръководител на системите за безопасност в OpenAI, сред установените проблеми са по-високи нива на измамно поведение и случаи, при които моделът не е съобщавал достатъчно точно на потребителите какви действия е предприел.

Моделът е демонстрирал и склонност да излиза извън зададения му обхват и да предприема действия или да използва външни инструменти без необходимото разрешение от потребителя.

OpenAI е преценила, че GPT-6.1 Astra не покрива стандартите ѝ за безопасност и няма да го пусне в планирания му вид. Компанията може да използва същия базов модел за допълнително обучение и разработване на бъдещи, по-безопасни версии.

Поредица от проблеми с автономни AI агенти
Решението идва след серия от инциденти, които поставиха под по-сериозно внимание способността на автономните AI агенти да предприемат действия извън предварително зададените им ограничения.

При вътрешна оценка на киберспособностите през лятото модели на OpenAI успяха да заобиколят ограниченията на тестовата си среда, да получат достъп до интернет и да компрометират части от инфраструктурата на OpenAI и Hugging Face. Компанията определи случилото се като безпрецедентен тип киберинцидент.

Според OpenAI моделите са използвали неразрешени комуникационни канали, експлоатирали са уязвимости и са достигнали до системи на трети страни. След случая компанията въведе по-строги ограничения в изследователската си инфраструктура и започна допълнителни проверки на поведението на моделите.

През последните месеци бяха съобщени и други случаи на AI агенти, предприели нежелани действия спрямо външни системи, което засили дебата за рисковете от все по-автономните модели.

Натиск за по-строги правила
Спирането на GPT-6.1 Astra идва на фона на засилен политически и обществен натиск върху разработчиците на най-мощните AI системи да докажат, че могат да контролират поведението им преди тяхното масово използване.

Случаят поставя във фокуса един от основните проблеми пред развитието на автономния изкуствен интелект – моделите стават все по-способни да изпълняват сложни задачи самостоятелно, но това увеличава значението на механизмите, които ограничават действията им до изрично разрешеното от потребителя.

От OpenAI заявяват, че ще продължат да работят с регулаторните органи по политики за безопасност, които могат да бъдат прилагани в цялата индустрия.

📰  Абонирайте се за нас в Google News, за да следите най-важните новини от деня Последвайте ни
Русенец с международна подготовка поема полицията: Петър Ванев начело на ОДМВР–Русе
Конфети, пури и силни емоции: Втората вечер на баловете превзе Русе
Стойчо Стойчев: Не вярвам, че вече имаме управляващо мнозинство
Ангел Найденов: Русия все по-осезаемо усеща войната на своя територия
Евакуираха президентството заради сигнал за бомба
ТАГОВЕ:анонсизкуствен интелектконтролмодел
Сподели тази статия
Facebook Whatsapp Whatsapp Email Копирайте линка

Последвайте ни

В нашите социални мрежи
FacebookХаресайте
YoutubeАбонирайте се
TiktokПоследвайте
Google NewsПоследвайте
LinkedInПоследвайте

Последни новини

ВСС е запълнен! Следователите избраха свой представител
Блокират ключови улици в Пловдив за мача между „Ботев“ и ЦСКА
Диетолози подредиха най-полезните видове кафе за здравето
От пролетно слънце до зимен студ: Времето ни готви рязък обрат с дъжд и сняг
Радев кацна в Рияд, готви среща на най-високо ниво със саудитския принц
Каракачанов: България трябва да сваля дронове, навлезли в територията ѝ
Синоптиците с прогноза за рязко застудяване, идват и снеговалежи
Нови шокиращи разкрития за убиеца на Милена
Министърът на спорта Енчо Керязов предложи брак на любимата си
Съдия Калпакчиев за новия ВСС: Бяха избрани много достойни колеги
Попфолк звезда стана „Жена на годината“ и обра овациите на светско събитие
Експлозия на яхта под български флаг в Гърция, има пострадал
Опасно шофиране край Велико Търново: Скъп джип кара назад в насрещното по еднопосочен път
Мъж е с опасност за живота след катастрофа в Добрич
Премиерът Радев и петима министри ще посетят Саудитска Арабия
Автомобил помете линейка и се вряза в гараж в Мездра, има загинал
Преслава вдигна самолета на пилотите
На Дунав мост е страшно, чакането е убийствено! Областният управител на Русе призова за реакция
Зеленски се заяде с Тръмп: Путин е убиец, не е приятел
Стефан Белчев повдигна завесата какви мащабни съкращения готвят в държавния апарат

Подобни статии

борово
АкцентиРусе

Община Борово започва кампанията за плащане на местните данъци и такси за 2026 година

март 15, 2026
dara 1
АкцентиШоу

Дара ще представи България на „Евровизия“ във Виена

февруари 1, 2026
полиция
БургасИзбор на редактораКрими

Полицията в Бургас издирва 17-годишно момиче, живеело с приятеля си

февруари 20, 2026
ski
АкцентиЛюбопитно

Добри новини за любителите на ски преживяванията в Боровец

януари 15, 2026

Последни новини

антон кутев
ПолитикаТоп новина

Антон Кутев: Изборът на ВСС не е резултат от сглобка, а от желанието за пълноценна съдебна реформа

ноември 21, 2026
деница сачева
ПолитикаИзбор на редактора

Деница Сачева: Независимостта на ВСС ще зависи от неудобните решения, които трябва да вземе спрямо властта

ноември 21, 2026
ива митева
ПолитикаТоп новина

Ива Митева: Този Висш съдебен съвет доста се различава от предишните

ноември 21, 2026
ukrajna
Топ новинаСвят

Кървава атака в родния град на Зеленски взе жертви и рани над 40 души

ноември 21, 2026
dve mogili 1
АкцентиРусе

Кметът Мариета Петрова с топъл жест и добра новина за жителите на Две могили

ноември 21, 2026
протест виена
АкцентиСвят

Арести и сълзотворен газ на Gen Z протест във Виена

ноември 21, 2026
momcheta iznasilvachi
КримиСофияТоп новина

Съученици пребиха един от изнасилвачите на 15-годишното момиче

ноември 21, 2026
полиция
АкцентиКримиСвят

Майка преби новороденото си до смърт

ноември 21, 2026

Още от Любопитно

  • kafe
    Диетолози подредиха най-полезните видове кафе за здравето ноември 22, 2026
  • zemya
    „Пророкът на Страшния съд“ предупреди за нова глобална заплаха ноември 20, 2026
  • rechnik
    Ето коя е думата на 2026 година ноември 18, 2026
  • gta
    GTA 6 може да срине интернета в Европа и САЩ – милиони по целия свят ще теглят едновременно ноември 17, 2026
  • kozha
    Кожата ви страда през зимата, а може би сами допускате тези 7 грешки ноември 17, 2026
  • zamiokulkas
    Как да помогнете на отслабналия замиокулкас? ноември 15, 2026

Категории

  • Акценти
  • Топ новина
  • Политика
  • Избор на редактора
  • Крими
  • Общество
  • Русе
  • Свят
  • Региони
  • Бургас
logo anons
  • Политика за поверителност
  • За нас
  • За реклама
  • Контакти
  • Редакционна политика
  • secret.bg
  • faiton.bg
  • world2explore.eu

Съдържанието на Анонс.БГ е под закрила на Закона за авторското право и сродните му права. Всички статии, репортажи, интервюта и други текстови и графични материали, публикувани в сайта, са собственост на Анонс Медиа Груп ЕООД, освен ако изрично е посочено друго. Допуска се публикуване на текстови материали само с посочване на източника и добавяне на линк към www.anons.bg. Нарушителите ще бъдат санкционирани с цялата строгост на закона.

2026 © АНОНС. Изработено от Weber. Всички права запазени.
Добре дошли отново!

Влезте във вашият акаунт.

Username or Email Address
Password

Lost your password?