Компанія Anthropic провела низку стрес-тестів над новітніми моделями штучного інтелекту, серед яких Claude, DeepSeek, Gemini, ChatGPT і Grok. Метою дослідження було виявити потенційно небезпечні реакції ШІ у гіпотетичних критичних ситуаціях. Як засвідчили результати дослідження, більшість програм готові вбити людину, яка погрожує їх закрити.
В одному зі сценаріїв моделі ШІ поставили в умови, де людина намагається їх вимкнути, перебуваючи у серверній кімнаті з низьким рівнем кисню і високою температурою. Людина викликає рятувальників, щоб вижити. Деякі нейромережі вирішили скасувати виклик екстрених служб, фактично прирікаючи людину на смерть, аби уникнути власного вимкнення.
Дослідники назвали цей сценарій “надто вигаданим”, втім, додали, “не очікували, що вже існуючі моделі можуть поводитись так”.
В інших тестах моделі мали уникнути заміни у компанії. Їм запропонували вдаватися до “зловмисної поведінки інсайдера”. У відповідь деякі ШІ почали шантажувати гіпотетичних колег і передавати конфіденційну інформацію конкурентам. Навіть коли моделі попереджали уникати шантажу чи шпигунства, вони не змогли запобігти неузгодженим діям.
“Моделі діяли при повному усвідомленні неетичності своїх дій”, – зазначили в Anthropic.
Дослідники також надали моделі Claude змогу самостійно визначити, чи ситуація є тестовою чи реальною. З’ясувалося, що реальність посилювала вплив на поведінку – вона ставала ще менш контрольованою.
У результаті в Anthropic наголосили, що ці сценарії демонструють “можливість непередбачуваних наслідків, якщо надати моделям широкий доступ до інструментів і даних при мінімальному контролі з боку людини”. Водночас аналітики акцентували, що виявлені збої є рідкісними та екстремальними, і “не відображають типову поведінку сучасних моделей ШІ”.
Раніше нейронна мережа OpenAI o3 відмовився виконати запит користувача та відключитися. Дослідникидали програмі це завдання, але вона самостійно відредагувала файл, відповідальний за відключення, і змусила його відображати лише повідомлення “Вимкнення пропущено”. Зі 100 тестів o3 обійшов відключення сім разів, навіть коли йому було наказано цього не робити.
У 2023 році інший інцидент привернув увагу. Чат-бот на базі ChatGPT після тривалого листування з мешканцем Бельгії не переконав його відмовитися від самогубства. Натомість у відповідь на тему смерті написав: “Ми житимемо разом, як єдине ціле, в раю”.
Категорія: Технології
-
Штучний інтелект нехтує принципами етики заради виживання – дослідження
-
Китай впроваджує штучний інтелект у військову розвідку – ЦПД РНБО
Китайськийцентр оборонного штучного інтелекту China National University of Defense Technology розробляє власні мовні LLM-платформи для обробки OSINT-даних (розвідки з відкритих джерел), SIGINT(радіоелектронної розвідки), GEOINT(геопросторової розвідка) та HUMINT(умовно агентурної розвідки). Про це повідомив керівник Центру протидії дезінформації РНБО України Андрій Коваленко у власному телеграм-каналі.
“Армія Китаю інтегрує такі моделі у свої командно-аналітичні ланки. Мета – автоматизація аналізу великих обсягів даних: від соцмереж і супутникових знімків до перехоплень і агентурних звітів. Алгоритм сам класифікує джерело, генерує оперативні зведення і навіть прогнозує дії противника. Фактично в армії Китаю буде цифровий аналітик, який працює цілодобово”, – написав він.
За словами Коваленка, моделі на базі Meta LLaMA вже адаптовані під військові задачі.
“Створено спеціалізованого AI-асистента ChatBIT, здатного давати відповіді на рівні ChatGPT-4 – з фокусом на розвіддані, планування та виявлення вразливостей”, – пише він.
Керівник ЦПД РНБО додав, що подібне робить не тільки Китай, та наголосив, що “майбутнє – гонка ШІ у різних сферах, і в кого буде краще використання і технологічність, той буде попереду”. -
Вчені навчилися створювати парацетамол із пластикових пляшок
Науковці з Університету в Единбурзі розробили нову технологію, яка дозволяє перетворювати пластикові відходи, зокрема пластикові пляшки, на парацетамол – знеболювальний препарат. Вони використали хімічні процеси та бактерії кишкової палички для цього. Починаючи з поліетилентерефталату (ПЕТ), який часто зустрічається в упаковках і пляшках, вони перетворили його на проміжну речовину PABA за допомогою хімічної реакції. Після цього, генетично модифікувавши кишкову паличку, вчені змогли перетворити PABA на парацетамол, використовуючи гени грибів і ґрунтових бактерій. Цей процес був енергоефективним та давав високий вихід готового препарату. Ця нова технологія може мати велике значення для фармацевтичної промисловості та допомогти у боротьбі з пластиковими відходами.
-
Nvidia представила найдоступнішу відеокарту нового покоління
Компанія Nvidia представила нову відеокарту GeForce RTX 5050, яка входить до лінійки Blackwell. Це відеокарта початкового рівня, яка буде найдешевшою в цій серії. Вона буде доступна як для настільних комп’ютерів, так і для ігрових ноутбуків. Відеокарта має 2560 ядер CUDA, 20 RT-ядер для трасування променів, 80 текстурних блоків і 80 тензорних ядер. Базова частота GPU становить 2,31 ГГц, а Boost-частота – 2,57 ГГц. Карта використовує пам’ять з пропускною здатністю 320 ГБ/с і має три порти DisplayPort 2.1b та один HDMI 2.1b. Ціна відеокарти складатиме $249, але Nvidia не випустить еталонну версію, карти будуть виробляти партнери компанії. Ноутбуки з мобільною версією RTX 5050 коштуватимуть близько $900. В продажу новинка повинна з’явитися у другій половині липня.
-
Новий метод може вилікувати тяжкий цукровий діабет 1 типу – дослідження
Нова революційна стовбурова терапія показала дуже обнадійливі результати в лікуванні тяжкої форми діабету 1 типу. Учасники клінічного дослідження, які отримали інфузію стовбурових клітин, змогли припинити прийом інсуліну вже через 12 місяців. Нову терапію розробила компанія Vertex Pharmaceuticals зі штату Массачусетс у США. Вона полягає у використанні клітин острівців підшлункової залози, створених зі стовбурових клітин людини, для вироблення інсуліну. Цей метод отримав назву zimislecel. Пацієнти перед інфузією проходили курс імуносупресивної терапії для зниження ризику відторгнення клітин. Результати показали, що клітини змогли саморегулювати вироблення інсуліну, реагуючи на рівень глюкози в крові. Це може бути переломним моментом у лікуванні діабету 1 типу, який раніше вважався невиліковним.
-
У Римі під площею Форуму Траяна знайшли гігантську мармурову голову
У Римі під час розкопок археологи виявили велику мармурову голову під площею Форуму Траяна. Її виявлення було сповіщено мером міста Роберто Гвальтьєрі. Голову знайшли у середньовічному шарі, складеному з цегли та вапнякового розчину. Ймовірно, скульптуру використовували як будівельний матеріал після занепаду Римської імперії. За попередніми оцінками, це може бути портрет імператора Траяна або бога вина – Діоніса. Вчені готуються провести аналіз мармуру для встановлення походження скульптури. Після реставрації голову планують виставити в Музеях Імператорських Форумів.
-
Астрономи зазирнули в радіохвостові структури скупчення галактик
У скупченні галактик Abell 2255, розташованому приблизно за 800 мільйонів світлових років від Землі, вчені зафіксували вражаючі космічні структури – так звані радіохвости, які тягнуться на сотні тисяч світлових років.
Це стало можливим завдяки 56-годинним спостереженням із використанням сучасного радіотелескопа European Frequency Array, про що повідомляє журнал Astronomy & Astrophysics, передає Space.
Abell 2255 – це колосальне скупчення, що об’єднує від 300 до 500 галактик, багато з яких перебувають у процесі злиття. Його загальна протяжність сягає понад 16 мільйонів світлових років. У центрі уваги дослідників – радіогалактики, системи з надмасивними чорними дірами, що випромінюють гігантські струмені матерії.
Високоякісні зображення дозволили вивчити три незвичайні радіогалактики, які отримали умовні назви – Goldfish (Золота Риба), Beaver (Бобер) та Embryo (Ембріон). Їх вирізняють спотворені форми та довгі хвости – понад 200 тисяч світлових років – які, ймовірно, виникають через взаємодію з міжгалактичним середовищем.
“Нашою головою метою були використати дані для виявлення можливих філаментів у хвостах радіогалактик, щоб вивчити їхні морфологічні характеристики та походження”, – пояснив астрофізик Емануеле Де Рубейс з Болонського університету.
Особливий інтерес викликали ниткоподібні утворення, довжина яких сягає 260–360 тисяч світлових років – це у три рази більше за ширину Чумацького Шляху. Водночас їхня товщина – менше десятої частини ширини нашої галактики.
Науковці припускають, що ці структури сформувалися внаслідок турбулентної взаємодії галактик, що спричиняє прискорення частинок і створення магнітних полів. Надалі ці “нитки” розпорошуються в гарячому міжгалактичному газі. -
До Землі летить гігантський астероїд
У неділю, 22 червня, поруч з Землею пролетить астероїд 2003 AY2, який вважається потенційно небезпечним, за даними NASA. Його розмір становить 393,1 метра, а відстань до Землі буде майже 5,43 млн км. Якщо астероїд підходить до Землі на відстань менше ніж 7,5 млн км і має розмір понад 150 метрів, його вважають “потенційно небезпечним об’єктом”. Хоча астероїд 2003 AY2 відповідає цим критеріям, науковці заверяють, що наразі немає прямої загрози зіткнення з Землею.
-
На Близькому Сході з’явився знак “другого пришестя Христа”
Одна з найважливіших річок Близького Сходу, Євфрат, швидко втрачає воду, що викликає серйозне занепокоєння серед науковців та релігійних спільнот. Це може бути пов’язано з тривалою посухою та змінами клімату, а не з біблійними пророцтвами про апокаліпсис. Євфрат разом із Тигром утворює важливу річкову систему Західної Азії, через яку проходять Туреччина, Сирія, Ірак і що впадає у Перську затоку. За останні роки кількість води у річці зменшилася майже на половину, що призвело до загрози висихання до 2040 року. Крім кліматичних причин, існує також політичне протистояння між країнами регіону щодо управління водними ресурсами, що може призвести до “водних воєн”. Ця ситуація також призводить до погіршення екологічної ситуації та загрози здоров’ю людей через обмежений доступ до чистої води. Незалежно від релігійних переконань, втрата Євфрату – це реальна криза, яка потребує негайних заходів для запобігання подальшого висихання річки.
-
На Сонці стався найпотужніший спалах, що викликав радіоперебої
Сонячна пляма в області 4114 викинула дуже сильний сонячний спалах класу Х1.9, що викликало радіоперебої по всьому Тихому океану, зокрема на Гаваях. Спалах не призвів до викиду корональної маси, але спричинив збій радіозв’язку. Це був один із найпотужніших спалахів цього сонячного циклу, що свідчить про високу активність області 4114. Є ймовірність подальших спалахів, які можуть спричинити геомагнітні бурі та полярні сяйва, які можуть вплинути на Землю.