Rewolucja. Czyli ChatGPT a pytania o zasady

[MichalStajszczak]

Po drugie chatgpt zmyśla. Podaje zupełnie zmyślone fakty

Użycie słowa "zmyśla" sugeruje, że ChatGPT myśli. Przypuszczam, że ChatGPT po prostu zbiera w sieci różne informacje ale nie jest w stanie ocenić ich pod względem prawdziwości. Być może stosuje swego rodzaju "głosowanie" - informacje częściej powtarzane uznaje za bliższe prawdy.

[espresso]

Prawdopodobnie okolice początku kwietnia. Możliwe też, że cezura czasowa jest różna dla różnych tematów.
Ciekawostki są dwie -
Po pierwsze próbuje ekstrapolować fakty, o których wiedzy nie posiada. W tamtym mniej więcej czasie toczyły się dość zaawansowane rozmowy pokojowe, algorytm uznał, e doprowadziły do zawieszenia broni.
Po drugie chatgpt zmyśla. Podaje zupełnie zmyślone fakty nie zaznaczając w żaden sposób, że są wynikiem szacowań czy analiz.

Ależ gdzie tam, czat niczego nie ekstrapoluje. On buduje wypowiedzi na podstawie prawdopodobieństwa występowania słów w określonych sekwencjach w zbiorze uczącym.

[raj]

Zmyśla to było uproszczenie dla "podaje nieprawdziwe fakty, pozbawione podstaw merytorycznych, w żaden sposób tego nie oznaczając."

Poza tym dopytałem się.

[raj]

Oczywiście nie ma takich artykułów pod tymi linkami ani google nic nie wie o artykułach pod takim tytułem.

[espresso]

Tak jest, bo ChatGPT nie służy weryfikacji faktów, tylko generowaniu tekstu, który wygląda jak napisany przez człowieka. Ten algorytm nie oddziela faktów od fikcji, opiera się na częstości występowania określonych twierdzeń w publikacjach.

[raj]

Tyle tylko, że NIE MA publikacji o zawarciu zawieszenia broni w kwietniu.
Linki ze screena są oczywiście puste, google nigdy nie słyszał o takich artykułach.
https://www.bbc.com/news/world-europe-61177058
https://www.reuters.com/world/europe/ru ... 022-04-21/

[espresso]

Tyle tylko, że NIE MA publikacji o zawarciu zawieszenia broni w kwietniu.
Linki ze screena są oczywiście puste, google nigdy nie słyszał o takich artykułach.
https://www.bbc.com/news/world-europe-61177058
https://www.reuters.com/world/europe/ru ... 022-04-21/

Tak, ale były publikacje, które analizowały możliwość zawieszenia broni i w nich te frazy występowały często obok siebie. Ten algorytm nie analizuje sensu generowanych tekstów, tylko buduje wypowiedzi na zasadzie "jaki wyraz pasuje do tego, co już mam wygenerowane".

[Asurmar]

Tak jest, bo ChatGPT nie służy weryfikacji faktów, tylko generowaniu tekstu, który wygląda jak napisany przez człowieka. Ten algorytm nie oddziela faktów od fikcji, opiera się na częstości występowania określonych twierdzeń w publikacjach.

Można by wręcz powiedzieć, że ChatGPT tworzy plotki, zupełnie jak człowiek

[Piskal]

Jest dokładnie tak jak mówi użytkownik espresso - Chat GPT nie sprawdza danych i faktów - tylko tworzy tekst.
Już lepszy jest ten nowy BING w tym aspekcie - bo on szuka i podaje źródła.

[rastula]

Tak jest, bo ChatGPT nie służy weryfikacji faktów, tylko generowaniu tekstu, który wygląda jak napisany przez człowieka. Ten algorytm nie oddziela faktów od fikcji, opiera się na częstości występowania określonych twierdzeń w publikacjach.

Można by wręcz powiedzieć, że ChatGPT tworzy plotki, zupełnie jak człowiek

typowy uczestnik social mediów

[raj]

Powiedzcie mi w takim razie, gdzie chatgpt znalazł to:

[MichalStajszczak]

Powiedzcie mi w takim razie, gdzie chatgpt znalazł to:

Jedyne rozsądne wytłumaczenie jest takie, że ChatGPT pobiera dane z jakiegoś "świata równoległego".

[Vasquez]

Powiedzcie mi w takim razie, gdzie chatgpt znalazł to:

Jedyne rozsądne wytłumaczenie jest takie, że ChatGPT pobiera dane z jakiegoś "świata równoległego".

Albo ciągnie info również z ruskiego neta i innych krajów, gdzie propaganda różne rzeczy pisze, a do nas te rzeczy nie docierają. Albo docierają dzięki chatGPT

[MichalStajszczak]

Albo ciągnie info również z ruskiego neta i innych krajów, gdzie propaganda różne rzeczy pisze, a do nas te rzeczy nie docierają.

Zapewne tak też jest ale to nie tłumaczy tego, co w formie zrzutów ekranu przedstawił raj. Bo chyba żadna gazeta na świecie ani żadna strona internetowa nie poinformowała i to z taką precyzją o czasie i miejscu podpisania zawieszenia broni. Zresztą zapytany o źródło informacji ChatGPT podawał najważniejsze światowe agencje i nawet podawał "linki" do rzekomych artykułów na ten temat.

[espresso]

Powiedzcie mi w takim razie, gdzie chatgpt znalazł to:

Nigdzie, bo on nie miksuje gotowych fragmentów, tylko buduje wypowiedzi na podstawie prawdopodobieństwa występowania poszczególnych wyrazów w ciągu. Polecam pierwszą część tego artykułu, tam jest to ładnie rozpisane.

[Gribbler]

Po drugie chatgpt zmyśla. Podaje zupełnie zmyślone fakty

Użycie słowa "zmyśla" sugeruje, że ChatGPT myśli. Przypuszczam, że ChatGPT po prostu zbiera w sieci różne informacje ale nie jest w stanie ocenić ich pod względem prawdziwości. Być może stosuje swego rodzaju "głosowanie" - informacje częściej powtarzane uznaje za bliższe prawdy.

Ten chat nie jest podłączony do internetu.

[raj]

Warto obejrzeć


Ogólnie rzecz biorąc - w żadnym razie nie należy korzystać z chatgpt zamiast googla.

[MichalStajszczak]

Trzy tygodnie temu przytoczyłem w wątku matematycznym dowcip sprzed circa 50 lat na temat pierwszego komputera w ZSRS ale chyba tu bardziej pasuje:

Spoiler:

Komputer miał odpowiedzieć na każde pytanie, więc wprowadzono do niego wszystkie dane statystyczne, wszystkie dzieła klasyków itd. Na inaugurację zaproszono całe biuro polityczne na czele z Breżniewem, najwybitniejszych naukowców, czołowych pisarzy i inne znakomitości. Oczywiście zaszczyt zadania komputerowi pierwszego pytania przypadł sekretarzowi generalnemu. Towarzysz Breżniew chwilę pomyślał, po czym zapytał "ile nam jeszcze brakuje do komunizmu?". Pytanie zostało zapisane na taśmie perforowanej i wprowadzone do komputera. Komputer zazgrzytał, różne lampki co chwila zapalały się i gasły, po czym wypluł odpowiedź: "15 kilometrów". Towarzysz Breżniew zrobił zaskoczoną minę, a konstruktor komputera zbladł i jeszcze raz wprowadził pytanie myśląc, że pewnie coś się źle wczytało. Ale komputer ponownie odpowiedział: "15 kilometrów". Towarzysz Breżniew spojrzał groźnie ale w tym momencie odezwał się znawca dzieł marksistów: "towarzysz Lenin powiedział kiedyś, że każdy zrealizowany plan pięcioletni to krok do komunizmu".

[tommyray]

Testuję GPT-4, używam aktywnie w tym tygodniu. To jest monstrum. Podam wam przykład niszy nisz. Pytanie do ludzi z IT: TLA+ Leslie Lamporta - znacie?

Pytam więc gpt tak:
\Podaj mi przykład kodu TLA+, który można użyć w TLA Toolbox, dotyczący systemów rozproszonych\

Spoiler:

Oto przykład kodu TLA+ dla prostej implementacji algorytmu konsensusu Paxos, który jest popularnym algorytmem do osiągania porozumienia w systemach rozproszonych:
---------------------- MODULE Paxos ----------------------
EXTENDS Naturals, TLC

(*** CONSTANTS ***)
CONSTANTS
Nodes, (* the set of nodes in the distributed system *)
Values (* the set of possible values to choose from *)

(*** VARIABLES ***)
VARIABLE
ballot, (* the current ballot number *)
proposals, (* the set of proposed values *)
accepted (* the set of values accepted in the current ballot *)

(*** ASSUMPTIONS ***)
ASSUME
Nodes \neq {} /\ Values \neq {}

(*** CONSTANTS DEFINITION ***)
CONSTANT_ASSERTIONS ==
/\ TypeOK(Nodes)
/\ TypeOK(Values)

(*** STATE CONSTRAINTS ***)
State ==
/\ ballot \in Nat
/\ proposals \subseteq Values
/\ accepted \subseteq proposals

(*** SPECIFICATION ***)
Paxos ==
/\ Init
/\ \A n \in Nodes: Node(n)
/\ \A n \in Nodes: Termination(n)
/\ Consensus

(*** INITIALIZATION ***)
Init ==
/\ ballot = 0
/\ proposals = {}
/\ accepted = {}

(*** NODE BEHAVIOR ***)
Node(n) ==
/\ State
/\ \A v \in Values: Prepare(n, v) \/ Accept(n, v)

(*** MESSAGE-PASSING ***)
Prepare(n, v) ==
/\ \A m \in Msgs: m.type = "prepare" /\ m.ballot > ballot
=> UNCHANGED <<ballot, proposals, accepted>>
/\ \E m \in Msgs: m.type = "prepare" /\ m.ballot > ballot
/\ m.node = n /\ m.value = v
=> ballot, proposals := m.ballot, {v}

Accept(n, v) ==
/\ \A m \in Msgs: m.type = "accept" /\ m.ballot > ballot
=> UNCHANGED <<ballot, proposals, accepted>>
/\ \E m \in Msgs: m.type = "accept" /\ m.ballot > ballot
/\ m.node = n /\ m.value = v
=> accepted := {v}

(*** TERMINATION ***)
Termination(n) ==
WF_vars(Node(n))

(*** CONSENSUS ***)
Consensus ==
/\ \E v \in Values: \A n \in Nodes: v \in accepted
---------------------- MODULE Msgs ----------------------
EXTENDS Naturals

(*** CONSTANTS ***)
CONSTANTS
Nodes, (* the set of nodes in the distributed system *)
Types (* the set of message types *)

(*** TYPES ***)
Message == [ node: Nodes, ballot: Nat, value: Value, type: Types ]
Value == UNION {v \in Values : TRUE}

(*** VARIABLES ***)
VARIABLES msgs

(*** ASSUMPTIONS ***)
ASSUME
Nodes \neq {} /\ Types = {"prepare", "accept"}

(*** CONSTANTS DEFINITION ***)
CONSTANT_ASSERTIONS ==
TypeOK(Nodes) /\ TypeOK(Types)

(*** STATE CONSTRAINTS ***)
State ==
/\ msgs \subseteq [ node: Nodes, ballot: Nat, value: Value, type: Types ]

(*** MESSAGE-PASSING ***)
Send(m) ==
msgs' = msgs \cup { m }

Msgs ==
/\ State
/\ \A m \

i dostaję pełny spec do TLA....

To nie jest Python, JAVA, C# czy inny język z miliardem zapytań i milionami porad na sieci, tysiącami kursów.
Materiałów jest niewiele, nisza nisz. A tu cyk i gotowe.
Został stworzony potwór, ściska mnie w środku i trochę włos mi się jeży, jak widzę jak to monstrum rozwiązuje zadania jakie mu zadaję, a to dopiero początek fali. Muzyka, grafika, animacja, IT - branże będą przeorane. Najlepszy scenariusz - nowe możliwości, nowi specjaliści, najgorszy - okres przejściowy z masowymi redukcjami w obszarach dotychczas najbardziej kreatywnych.

[zioombel]

Też jestem ciekaw jak to wszystko się pozmienia. Równie dobrze może pójść w te stronę, że specjaliści nie będą tak chętnie dzielić się wiedzą w internecie wiedząc, że kopią pod sobą dół. A jak wiedzy w internecie nie będzie to chat gpt gó*** "przeczyta" i gó*** odpowie.
Kolejne pytanie, które się rodzi to czy nie zostanie to w jakiś sposób uregulowane prawnie. Widziałem już artykuły, że artyści odnajdywali części swoich prac w grafikach stworzonych przez sztuczną inteligencję. Może powstaną uregulowania prawne, które będą chronić czyjąś pracę przed wykorzystaniem przez sztuczną inteligencję i nie będzie ona mogła wziąć tej wiedzy / twórczości pod uwagę.

[tommyray]

Też jestem ciekaw jak to wszystko się pozmienia. Równie dobrze może pójść w te stronę, że specjaliści nie będą tak chętnie dzielić się wiedzą w internecie wiedząc, że kopią pod sobą dół. A jak wiedzy w internecie nie będzie to chat gpt gó*** "przeczyta" i gó*** odpowie.
Kolejne pytanie, które się rodzi to czy nie zostanie to w jakiś sposób uregulowane prawnie. Widziałem już artykuły, że artyści odnajdywali części swoich prac w grafikach stworzonych przez sztuczną inteligencję. Może powstaną uregulowania prawne, które będą chronić czyjąś pracę przed wykorzystaniem przez sztuczną inteligencję i nie będzie ona mogła wziąć tej wiedzy / twórczości pod uwagę.

TO nie sczytuje sieci. TO ma wiedzę... jest kreatywne, potrafi uzasadniać, tłumaczyć, wchodzić w detale, generować tematy zadań i podawać rozwiązania, potrafić generować kod w zadanym języku na zadany temat. Regulacje prawne nie zdążą. Najpierw będzie efekt na rynku pracy. A pierwszą do cięcia widzę branżę szkoleniową IT. Pójdzie albo pierwsza pod nóż albo mocno się zmieni - po co firma X ma płacić 3-4 tysiące za tydzień szkolenia pracownika jak to samo uzyska pracownik siedząc sobie z chatem gpt...

[garg]

Nie wiem, jak to się dalej potoczy, ale w mojej działce (badania naukowe na uczelniach) jest na razie spokojnie. Powód jest prosty - w odpowiedzi na konkretne pytanie ChatGPT generuje wszystko, włącznie ze zmyślonymi źródłami. Tak się nauki uprawiać nie da . Choć to oczywiście może się zmienić.

Natomiast ciekawostka - wiecie, jaka branża kieruje dużo oficjalnych zapytań i jest obecnie najbardziej zainteresowana komercyjnymi zastosowaniami ChataGPT? Branża medialna. Tworzenie treści (także fake'owych) nigdy nie było prostsze .

[Miszon]

Ja bym uważał z pytaniem go o zasady - jest jak student, który gdy nie wie, to odpowiada totalnie z czapy.
Spytałem, kto nagrał "Teksański", odpisał że... Big Cyc na płycie "Zmień z nami płeć" z roku 1997.
Spytany o elektrybałta (bo wcześniej kazałem mu napisać limeryk matematyczny i potem chciałem zażartować sobie niejako z niego) odpisał, że to instrument muzyczny, używany m.in. przez Niebiesko-Czarnych i Breakout (WTF!) i popularny w PRL w latach '70. Jak przycisnąłem, czy to nie ma coś wspólnego jednak z Lemem, to wymyślił że to postać z "Okamgnienia", ostatecznie kiedy rzuciłem imionami Trurl i Klapaucjusz, to wpadł na "Cyberiadę".
I za każdym razem: "przepraszam masz rację! Myliłem się, jest to...".
Co mi po przeprosinach, jak spytam o coś, czego faktycznie nie wiem to mogę trafić na jakieś podobne głupoty.

Najgorsze, jak się "upiera" w swym błędzie, podobnie jak z tym rozejmem, tworząc alternatywną rzeczywistość.

Zresztą, proszę - ja leżałem ze śmiechu:

[Miszon]

Powiedzcie mi w takim razie, gdzie chatgpt znalazł to:

wydaje się, że zrozumiał to jako "zaproponuj treść rozejmu" i stworzył takową, ale nie pochwalił się, że jest jej autorem, tylko rzucił jako cytat.

[zioombel]

Też jestem ciekaw jak to wszystko się pozmienia. Równie dobrze może pójść w te stronę, że specjaliści nie będą tak chętnie dzielić się wiedzą w internecie wiedząc, że kopią pod sobą dół. A jak wiedzy w internecie nie będzie to chat gpt gó*** "przeczyta" i gó*** odpowie.
Kolejne pytanie, które się rodzi to czy nie zostanie to w jakiś sposób uregulowane prawnie. Widziałem już artykuły, że artyści odnajdywali części swoich prac w grafikach stworzonych przez sztuczną inteligencję. Może powstaną uregulowania prawne, które będą chronić czyjąś pracę przed wykorzystaniem przez sztuczną inteligencję i nie będzie ona mogła wziąć tej wiedzy / twórczości pod uwagę.

TO nie sczytuje sieci. TO ma wiedzę... jest kreatywne, potrafi uzasadniać, tłumaczyć, wchodzić w detale, generować tematy zadań i podawać rozwiązania, potrafić generować kod w zadanym języku na zadany temat. Regulacje prawne nie zdążą. Najpierw będzie efekt na rynku pracy. A pierwszą do cięcia widzę branżę szkoleniową IT. Pójdzie albo pierwsza pod nóż albo mocno się zmieni - po co firma X ma płacić 3-4 tysiące za tydzień szkolenia pracownika jak to samo uzyska pracownik siedząc sobie z chatem gpt...

Tak, zrobili go po prostu z wiedzą. Taki już jest. Sam sobie wszystko od nowa wymyślił. Czyta sieć bo skąd niby ma mieć dane?
Zresztą gdzieś już w tym wątku padło, że ma dane z netu do którejś daty stąd wymyśla głupoty o nowszych rzeczach.
I zacytowany kod, który wkleiłeś też sam wymyślił. Cały język programowania od nowa.