Aktualizacja: 06.05.2024 17:18 Publikacja: 06.05.2024 16:50
Sztuczna inteligencja ma poważną słabość. Kiedy nie zna odpowiedzi na zadane pytanie, często zaczyna zmyślać
Foto: AdobeStock
Chatbot firmy kurierskiej DPD zaszkodził wizerunkowi swojej firmy. Głośno było o jednym z klientów sfrustrowanym brakiem możliwości namierzenia paczki, któremu udało się namówić AI do przeklinania, a potem naśmiewania się z własnej firmy, którą bot nazwał „najgorszą firmą kurierską na świecie”.
Okazuje się, że nawet ChatGPT potrafi zmyślać, kiedy nie jest w stanie znaleźć w swoich zasobach odpowiedzi na pytanie. Badacze z Rangaraya Medical College w Indiach przeprowadzili doświadczenie, które miało na celu sprawdzić precyzję ChatGPT w generowaniu danych i częstotliwość tzw. halucynacji AI. Zadawali pytania, a potem weryfikowali w sieci prawdziwość i dokładność odpowiedzi, a także odniesienia do źródeł. Wyniki eksperymentu zaskakują – spośród 178 przeanalizowanych odpowiedzi ChatGPT aż 69 nie zostały zmyślone przez AI. Okazuje się, że w „chwili niepewności” AI sama wymyśla, czasem zupełnie niestworzone, odpowiedzi.
Skala tego jest zaskakująco wysoka. Nawet jedna czwarta odpowiedzi botów może być „halucynacjami” – wynika z najnowszych badań firmy analitycznej Vectara, która przeanalizowała jak często chatbotom zdarzają się takie fałszerstwa. Okazuje się, że boty wprowadzają użytkowników w błąd w od 3 do 27 proc. przypadków – w zależności od firmy.
Z raportu Vectary wynika, że najmniejszy udział fałszywych odpowiedzi miał system stworzony przez OpenAI – około 3 proc. System AI stworzony przez Meta miał 5 proc. nieprawdziwych odpowiedzi, natomiast chatbot start-upu Anthropic Claude 2 zmyślał w ponad 8 proc. przypadków. Jednak najgorszym albo najlepszym kłamcą okazał się PaLM, opracowany przez Google – tu współczynnik zmyślonych odpowiedzi osiągnął aż 27 proc.
Chatbot miasta Nowy Jork od samego początku zaczął namawiać ich do łamania prawa i naginania przepisów. Mimo to władze Nowego Jorku odmówiły usunięcia go ze strony miasta. O problemach poinformował serwis technologiczny The Markup, jednak miasto zdecydowało się pozostawić narzędzie na swojej oficjalnej stronie internetowej. Burmistrz Eric Adams bronił tej decyzji, przyznając jednak, że odpowiedzi chatbota były „błędne w niektórych obszarach”.
Uruchomiony w październiku jako „punkt kompleksowej obsługi” dla właścicieli firm, chatbot oferuje użytkownikom generowane algorytmicznie odpowiedzi tekstowe na pytania dotyczące poruszania się w biurokratycznym labiryncie miasta. Miasto ostrzega jednak, że może on „sporadycznie generować nieprawidłowe, szkodliwe lub stronnicze” informacje oraz zastrzega, że jego odpowiedzi nie stanowią porady prawnej.
Do potentatów w produkcji humanoidów, jak Boston Dynamics, Agility czy Figure, dołączyła cała rzesza nowych firm. Eksperci spodziewają się w najbliższym czasie, m.in. za sprawą sztucznej inteligencji, przyspieszenia postępu w robotyce.
Naukowcy z Chin opracowali bezpieczną i wydajną baterię na bazie wody. To urządzenie o dużej gęstości energii i zaskakująco trwałe.
Samoloty bojowe, które wkrótce zastąpią maszyny F-22 Raptor i około 2030 r. dołączą do F-35 i autonomicznych dronów, mogą zdominować niebo na dziesięciolecia.
Cyfrowe rozwiązania są dziś niezbędne w każdej organizacji, a ich liczba stale rośnie. Decyzje dotyczące wdrożeń muszą być podejmowane we współpracy IT i biznesu. Zbudowanie optymalnych ram takiego współdziałania w szybko zmieniającym się zdigitalizowanym świecie jest nie tyle ważne, ile konieczne.
Twarz i głos prezenterki BBC wykorzystano w reklamie środków odstraszających owady. Do kradzieży jej tożsamości i oszukania agencji reklamowej przestępcy wykorzystali sztuczną inteligencję. Sam materiał oszuści spreparowali w technologii deepfake.
W kwietniu eksport rosyjskich produktów naftowych i ropy spadł do poziomu obserwowanego w czasie pandemii cztery lata temu. To efekt skutecznych ataków ukraińskich dronów na rosyjskie rafinerie oraz wielkich powodzi w Rosji.
Do potentatów w produkcji humanoidów, jak Boston Dynamics, Agility czy Figure, dołączyła cała rzesza nowych firm. Eksperci spodziewają się w najbliższym czasie, m.in. za sprawą sztucznej inteligencji, przyspieszenia postępu w robotyce.
Nasza spółka wykupiła roczny dostęp do popularnego obecnie typu oprogramowania służącego do generowania odpowiedzi na dane, czy zapytania wprowadzane przez zainteresowaną osobę (tzw. chatbot). Program ma za zadanie prowadzić rozmowę lub odpowiadać na zadane pytania. Sprzedawcą jest zagraniczna firma. Na fakturze został jednakże naliczony polski VAT. W miejscu ujętym jako „numer VAT” sprzedawca wskazał EU OSS VAT i podał numer. Mamy wątpliwości czy uznać ten zakup za import usług i opodatkować od kwoty brutto czy może jednak jest to zakup krajowy i odliczyć podatek naliczony? – pyta czytelnik.
Ponad 150 czołowych prelegentów z całego świata weźmie udział w największej w Europie Środkowo-Wschodniej konferencji łączącej technologię, biznes i start-upy.
Naukowcy z Chin opracowali bezpieczną i wydajną baterię na bazie wody. To urządzenie o dużej gęstości energii i zaskakująco trwałe.
USA wezwały Chiny i Rosję, aby poparły ich deklaracje i innych krajów, że decyzje dotyczące rozmieszczenia i użycia broni nuklearnej będą podejmować wyłącznie ludzie, a nie sztuczna inteligencja.
Sztuczna inteligencja (AI) coraz śmielej wkracza w świat prawników, transformując metody pracy, optymalizując procesy oraz kreując nowe możliwości.
Pekin po cichu buduje odpowiedź dla amerykańskich firm od generatywnej sztucznej inteligencji (genAI). W cieniu OpenAI, twórcy ChatGPT czy Anthropic powstają zaawansowane projekty - mowa o start-upach Zhipu AI, Moonshot AI, MiniMax czy 01.ai.
Bot wprowadzony przez Nowy Jork doradzał firmom łamanie prawa, zaś AI firmy kurierskiej DPD naśmiewała się z niej, nazywając najgorszą na świecie.
Ambasador Wielkiej Brytanii Nigel Casey został wezwany do rosyjskiego Ministerstwa Spraw Zagranicznych by wysłuchać formalnego protestu po tym, jak szef MSZ David Cameron powiedział, że Ukraina ma prawo użyć brytyjskiej broni do uderzenia w Rosję.
Komisja Europejska proponuje przedłużenie umowy z Ukrainą do grudnia 2025 roku.
Jedną z konsekwencji wyborów samorządowych jest konieczność przeprowadzenia w senackim okręgu 13 wyborów uzupełniających. Prezydentem miasta został senator Krzysztof Kukucki z Nowej Lewicy. Wybory będą testem politycznym dla wszystkich sił.
Amerykański koncern produkujący sprzęt AGD zlikwiduje następny tysiąc etatów. Firmę czekają kolejne zmiany zwłaszcza w Europie, po połączeniu sił z tureckim Beko.
Sprawa wystąpienia ministra spraw wewnętrznych i administracji Marcina Kierwińskiego pokazuje, jak polaryzacja polityczna prowadzi do zanikania w debacie publicznej takich pojęć, jak prawda i fałsz. Dla polityki to ślepa uliczka.
Kering, francuski gigant branży luksusowej, ma kłopoty. Koncern zapowiedział, że w pierwszych sześciu miesiącach tego roku dochód operacyjny zanotuje prawdopodobnie spadek o 40 procent. Powodem problemów jest między innymi to, że sprzedaż Gucci, wiodącej marki koncernu, spadła o blisko jedną piątą.
Absolutnym hitem tegorocznego Festiwalu Kultura Natura w Katowicach będzie koncert orkiestry Royal Concertgebouw z Amsterdamu z jej szefem, fenomenalnym 28-łetnim Klausem Mäkelą.
O ewentualnym wniosku sędziego Tomasza Szmydta o rezygnację z urzędu sędziego Wojewódzkiego Sądu Administracyjnego w Warszawie nie wie Krajowa Rada Sądownictwa - ustaliła "Rzeczpospolita". Sędzia miał poprosić o azyl na Białorusi.
Ed Davey, lider Liberalnych Demokratów, zapowiedział przedstawienie w Izbie Gmin wniosku o wotum nieufności dla rządu Rishiego Sunaka, by doprowadzić do wyborów parlamentarnych w czerwcu - informuje Sky News.
Unia Europejska powinna w większym zakresie wziąć na siebie odpowiedzialność za bezpieczeństwo w naszej części Europy.
Wojewódzki Sąd Administracyjny w Warszawie wydał w poniedziałek komunikat w sprawie sędziego Tomasza Szmydta. To reakcja na pojawiające się w mediach doniesienia, że sędzia wystąpił do władz Białorusi o azyl polityczny.
Pierwsi wybrani w kwietniowych wyborach prezydenci już złożyli ślubowanie i przejęli władzę w miastach. Pozostali muszą to zrobić na pierwszej sesji nowej Rady Miasta, najpóźniej we wtorek.
Oferowanie w firmowym sklepie piekarni gotowej do spożycia kanapki serwowanej na talerzyku i przy stoliku nie przesądza o tym, że jest to usługa związana z wyżywieniem, a zatem opodatkowana 8 proc. VAT - stwierdził sąd w wyroku, który ucieszy wielu przedsiębiorców.
- Ten jego bełkot, to wystąpienie zepsuło święto tysiącom strażaków, obniżyło rangę tych uroczystości - w ten sposób europoseł PiS Joachim Brudziński skomentował przemówienie szefa MSWiA Marcina Kierwińskiego na obchodach Dnia Strażaka, po którym minister zapewniał, że nie był niedysponowany.
Nawet jeśli minister Marcin Kierwiński wykaże w sądzie, że był trzeźwy podczas obchodów Dnia Strażaka, to zajmie mu to miesiące.
Linie lotnicze Qantas sprzedawały bilety na już skasowane przez siebie loty. Po długich negocjacjach ostatecznie zgodziły się zapłacić karę.
W świecie, w którym przemoc i zło przytłaczają, ludzie niosący pomoc humanitarną przekonują, że codzienna praca, by zmieniać świat na lepsze, jest możliwa. Przypomina o tym historia Damiana Sobola.
Niemiecki MSZ wezwał na konsultacje swojego ambasadora w Rosji, Otto Grafa Lambsdorffa. MSZ Rosji i ambasada Rosji w Berlinie nie komentują sprawy.
Deweloper zbuduje czterogwiazdkowy condohotel na Wyspie Spichrzów.
Odbyło się losowanie kobiecego i męskiego turnieju Internationali BNL d’Italia w Rzymie. Iga Świątek może mówić o szczęściu. Hubert Hurkacz - z medialnego punktu widzenia - trafił najlepiej jak mógł.
Najwyższa Izba Kontroli wzięła pod lupę działania Zakładu Ubezpieczeń Społecznych w zakresie dochodzenia składek i udzielania ulg w ich pobieraniu w latach 2019-2022. Wniosek? Nie były one w pełni skuteczne.