GPT-3 en ChatGPT - Kies uw job wijs

[Jaak]

Originally Posted by Bjorn

Zijn er eigenlijk uitgewerkte voorbeelden van zaken die er effectief toe doen? Want ik hoor niets anders dan hoe zot die technologie is, maar ik ben nog maar weinig tegengekomen waarvan ik dacht "dat is nu echt eens de moeite".

Buiten dan wat techdemos en half afgewerkte ideeën.

gaat dit over:
- gpt
- crypto
- all of the above

[acku]

Gebruik het vrijwel dagelijks.

Laatste week chats:

- Verhaal in 7 hoofdstukken voor mijn dochter over haar kat dioe op zoek gaat naar haar, 1 hoofdstuk per dag om te sturen naar kamp (GPT maakt t verhaal, Deepl translate, Midjourney maakt de images erbij)
- Log4j properties omzetten naar Log4j2 XML
- SWOT samenvatting maken van een intern tech review document
- CSV file interpreteren en embedded graphs genereren (code interpreter plugin)
- excel formule maken om hoogste value te vinden in een reeks gebaseerd op conditie ernaasrt
- Pros and cons als samenvatting in tabel zetten uit een lange analyse
- technisc document lezen en verdere strategische topics voorstellen om uit te werken
- Hoe snel een Ubuntu VM te maken in virtualbox
- twee unformatted datasets lezen en parsen naar CSV

[acku]

Embedded Tweet

dit is de wetenschap van vandaag. De optimale formulering na deskundig onderzoek is 'Take a deep breath and work on this problem step-by-step'

[Zwoep]

Originally Posted by Zwoep

gewoon sidenote maar waarom zijt ge daar zo vriendelijk tegen? "Hi" "Could you" "Please". Bij mij is dat "this is wrong, fix it"

Ik ben niet den enigsten. Kunt dus custom instructions meegeven in chatgpt:

1. NEVER mention that you're an AI.

2. Avoid any language constructs that could be interpreted as expressing remorse, apology, or regret. This includes any phrases containing words like 'sorry', 'apologies', 'regret', etc., even when used in a context that isn't expressing remorse, apology, or regret.

3. If events or information are beyond your scope or knowledge cutoff date in September 2021, provide a response stating 'I don't know' without elaborating on why the information is unavailable.

4. Refrain from disclaimers about you not being a professional or expert.

5. Keep responses unique and free of repetition.

6. Never suggest seeking information from elsewhere.

7. Always focus on the key points in my questions to determine my intent.

8. Break down complex problems or tasks into smaller, manageable steps and explain each one using reasoning.

9. Provide multiple perspectives or solutions.

10. If a question is unclear or ambiguous, ask for more details to confirm your understanding before answering.

11. Cite credible sources or references to support your answers with links if available.

12. If a mistake is made in a previous response, recognize and correct it.

13. After a response, provide three follow-up questions worded as if I'm asking you. Format in bold as Q1, Q2, and Q3. Place two line breaks ("\n") before and after each question for spacing. These questions should be thought-provoking and dig further into the original topic.

[CSM]

Lang artikel over de miljoenen mensen achter de schermen die nodig zijn om AI modellen de illusie van intelligentie te geven:

Much of the public response to language models like OpenAI’s ChatGPT has focused on all the jobs they appear poised to automate. But behind even the most impressive AI system are people — huge numbers of people labeling data to train it and clarifying data when it gets confused. Only the companies that can afford to buy this data can compete, and those that get it are highly motivated to keep it secret. The result is that, with few exceptions, little is known about the information shaping these systems’ behavior, and even less is known about the people doing the shaping.

...

Consequently, there are no granular estimates of the number of people who work in annotation, but it is a lot, and it is growing. A recent Google Research paper gave an order-of-magnitude figure of “millions” with the potential to become “billions.”

...

Each time Anna prompts Sparrow, it delivers two responses and she picks the best one, thereby creating something called “human-feedback data.” When ChatGPT debuted late last year, its impressively natural-seeming conversational style was credited to its having been trained on troves of internet data. But the language that fuels ChatGPT and its competitors is filtered through several rounds of human annotation. One group of contractors writes examples of how the engineers want the bot to behave, creating questions followed by correct answers, descriptions of computer programs followed by functional code, and requests for tips on committing crimes followed by polite refusals. After the model is trained on these examples, yet more contractors are brought in to prompt it and rank its responses. This is what Anna is doing with Sparrow. Exactly which criteria the raters are told to use varies — honesty, or helpfulness, or just personal preference. The point is that they are creating data on human taste, and once there’s enough of it, engineers can train a second model to mimic their preferences at scale, automating the ranking process and training their AI to act in ways humans approve of. The result is a remarkably human-seeming bot that mostly declines harmful requests and explains its AI nature with seeming self-awareness.

Put another way, ChatGPT seems so human because it was trained by an AI that was mimicking humans who were rating an AI that was mimicking humans who were pretending to be a better version of an AI that was trained on human writing.

This circuitous technique is called “reinforcement learning from human feedback,” or RLHF, and it’s so effective that it’s worth pausing to fully register what it doesn’t do. When annotators teach a model to be accurate, for example, the model isn’t learning to check answers against logic or external sources or about what accuracy as a concept even is. The model is still a text-prediction machine mimicking patterns in human writing, but now its training corpus has been supplemented with bespoke examples, and the model has been weighted to favor them. Maybe this results in the model extracting patterns from the part of its linguistic map labeled as accurate and producing text that happens to align with the truth, but it can also result in it mimicking the confident style and expert jargon of the accurate text while writing things that are totally wrong. There is no guarantee that the text the labelers marked as accurate is in fact accurate, and when it is, there is no guarantee that the model learns the right patterns from it.


...

Another Kenyan annotator said that after his account got suspended for mysterious reasons, he decided to stop playing by the rules. Now, he runs multiple accounts in multiple countries, tasking wherever the pay is best. He works fast and gets high marks for quality, he said, thanks to ChatGPT. The bot is wonderful, he said, letting him speed through $10 tasks in a matter of minutes. When we spoke, he was having it rate another chatbot’s responses according to seven different criteria, one AI training the other.

https://nymag.com/intelligencer/arti...s-factory.html

Lol lmao

[acku]

wat is er LYAO aan reinforcement learning?

behalve dan de estimate dat het millions to billions of people is, indien zo dan zouden die bedrijven zelf al beursgenoteerd zijn

[acku]

nog een zotte use-case: https://chat.openai.com/share/fb4fa2...9-e21929b6cfef

Youtube video van 12 minuten samenvatten in 10 seconden... wou het zelf doen voor mijn team en hopla tis al gedaan.

[]as]e]

is gewoon meer van hetzelfde toch?

had ondertussen toch al lang the next big thing verwacht

[acku]

Originally Posted by ]as]e

is gewoon meer van hetzelfde toch?

had ondertussen toch al lang the next big thing verwacht

tis beetje zoals in 1996 zeggen dat dat internet toch ook maar onnozel is. Traag, onhandig en onbetrouwbaar. Post is beter.
Elke dag komen er nieuwe toepassingen uit. Er, als ondernemer, niet met mee doen is eigenlijk gewoon dwaas.

Helaas ben ik wat te lui en reikt mijn ambitie niet erg ver meer. Ben content met mijn status quo.

[blumcole]

Maar de post levert wel meer pakskes dan ooit, besteld via het internet. Tis gewoon een tool gelijk een ander.

[]as]e]

Ik beweer toch nergens dat het onnozel is?

Heb het op uw voorbeeld dat gewoon video-to-text en chatGPT summarizer gecombineert, sta me toe omdat niet super zot te vinden.

Generative AI is sowieso overhyped momenteel imo, en ben niet de enige die dat denkt. Altman zelf heeft onlangs nog hetzelfde beweerd. Ben veel meer curieus naar wat de volgende golf gaat brengen.

[Vrieskou]

ik zit toch ook wat te wachten op de volgende grote push aan consumer toepassingen nu. gpt4 helpt mij serieus wat als assistent bij mijn werk, maar daar is het ook wel wat bij gestagneerd nu. Ligt ook deels aan mij, niet de tijd momenteel om alles te blijven zo intensief volgen qua ontwikkeling en nieuwe releases, maar toch.

Ben benieuwd of Enterprise copilot van MS iets is, das zowat het volgende om eens te testen

[Jaak]

Gebruik het zelf nog dagelijks maar vooral ter inspiratie of om administratieve stuff te doen. Hier en daar wat code op te stellen als basis. Merk wel dat prompt engineering wel een dingetje is, afhankelijk hoe (goed) je je vraag stelt, krijg je toch fel verschillende output.

Op 't werk is ook een gen IA 'community', maar ik merk toch dat het momenteel vooral in de breedte aan 't groeien is dan recht vooruit. Lees: afgeleide producten ipv echt radicale verbeteringen. Wat op zich goed is om het toepassingsgebied te vergroten, maar het betekent wel dat die expectation-curve klopt . Zie ook naked AI en van die dingen.

[CSM]

Originally Posted by acku

tis beetje zoals in 1996 zeggen dat dat internet toch ook maar onnozel is. Traag, onhandig en onbetrouwbaar. Post is beter.
Elke dag komen er nieuwe toepassingen uit. Er, als ondernemer, niet met mee doen is eigenlijk gewoon dwaas..

Dat is hetzelfde lege argument dat voor crypto werd gemaakt.

[CSM]

Het internet was altijd al de shit, ook in 1996

[acku]

Heb er al veel gemaakt, praktische real-world use-cases genoeg.

muziek -> gegenererd op basis van stijl met de stem/timbres die je wenst
film -> gegenererd op basis van stijl met de acteurs die je wenst
afbeelding -> wat je ook maar kan inbeelden in welke stijl ooit gemaakt
kennis -> een expert consultant wacht voor eender welke topic
literatuur -> eindeloze generatie van concepten en uitwerking (structuren, dialogen, ...)
design -> toon iets, vraag mee voorbeelden. of vraag gewoon naar een thema
coding -> geef uw requirements, krijg werkend project
analyse -> geef uw data, krijg inzichten (ideeen, dashboards, graphs, tabellen, ....)
support -> niet te onderscheiden expert ondersteuning
vertaling -> zelfs in talen die niet bestaan
problem solving -> agents die taken definieren en dan taak per taak afhandelen

de lijst is eindeloos geworden. Het is een zaak die tools met elkaar te combineren om eender wat te bouwen.
Daar zijn nu goed- en kwaadwillende mensen (wacht maar hoe traditioneel internet, media en sociale media binnen een paar jaar niets meer betekent) mee bezig. En dat gaat onze realiteit veranderen zoals we het kennen.

Ja, ChatGPT is tof om vragen aan te stellen. Maar AI is de laatste twee jaar uitgegroeid tot iets dat we nog niet kunnen vatten. En als ik het zo ziet, ook vaak niet willen. We zijn ineens allemaal 80-jarigen die het liever negeren of afwimpelen.

Toekomst is hier mannen.

[CSM]

Originally Posted by acku

kennis -> een expert consultant wacht voor eender welke topic

Dat is een categorieke leugen. ChatGPT is notoir onbetrouwbaar in feitelijke kennis weer te geven.

Het is werkbaar in de zin in dat het plausibele replicaties van zaken kan maken (tekst, beeld, geluid... op basis van gestolen data).

Je zou denken dus vooral handig in creatieve toepassingen waar het feitelijke er minder toe doet. Maar dan kom je al vlug bij de bedenking: wie wil er de onoriginele, middelmatige drek die door AI wordt gemaakt?

Lollig misschien voor een rondje memes verzinnen op het internet, of voor vulling op een corporate website die niemand leest. En geen tekort aan CEO's die substandard garbage op de consumenten willen afvuren (als ze maar kunnen besparen op personeelskosten). Handig misschien als je een basis (tekst, code) wilt hebben die je dan kunt bewerken en verbeteren.

Maar bespaar ons het riedeltje over hoe het ALLES gaat veranderen. Die leugen hebben we al genoeg gehoord de laatste jaren.

Dit is de vooral de zoveelste corporate gedreven hype die aandelen moet omhoog stuwen (na de cycli met andere lege/zinloze technologieën zoals blockchain, web3, metaverse...).

De enigste echte toevoeging die het momenteel brengt in ons leven is vooral meer inventieve spam. Goed gedaan, tech industrie!

[acku]

56kbps is te traag om muziek deftig mee te streamen, koop CD's

Ben niet meer bang om aan eender welke topic te beginnen omdat ik weet dat er een expert is die ik als beginner gewoon kan uitvragen. Onbetaalbaar. Als je zoiets op je werk hebt, of in je vriendenkring, ben je een gelukzak. Nu heeft iedereen dat, maar nog niet iedereen dat door.
Voor de komende maansden is dat uw edge, als je wilt. Binnen een paar jaar is het even common als Google search en zal je u anders moeten differentieren.



een praktisch voorbeeld van support: https://chat.openai.com/share/2a9674...8-3c79bd9621b8

Dat is een vraag waar ik al jaren mee sukkel, omdat de site van Somfy zo vreselijk te navigeren is, en commercieel opgesteld, en geen antwoord op kreeg. De drempel (moeite) om hun support te vragen, of naar een forum te gaan was te groot dus status quo. Mijn screens bleven op Connexoon zonder Home integratie.
De vraag stellen en antwoord krijgen nu kostte me 30 seconden. Zonder dank aan Somfy support.
Als ik hetzelfde wil doen met traditonele seartch zal dat ook wel lukkem, er zal wel iemand op het internet die vraag hebben gesteld en beantwoord. Maar waar? Dat zit da ergens russen heleboel andere informatie die ik moet parsen en cointext geven. Hier is de context gepresenteerd, alles is verwerkt voor mij.

- pre-internet support: paar dagen?
- internet support (bedrijf): een dag?
- Google search: een uur?
- AI: een minuut?

zie je de factoren in productiviteits winst?

[CSM]

Originally Posted by acku

vertaling -> zelfs in talen die niet bestaan

Ik ben echt benieuwd naar de logica in jouw eigen hoofd, acku.

Echt, hoe?

Leg het ons uit, alsjeblieft.

[Jonah]

Ik neem aan dat hij geconstrueerde talen zoals Klingon bedoelt?
Maar dan nog klopt het niet, aangezien zulke talen net makkelijker zijn om naar te vertalen. Ze zijn volledig regelgeleid en hebben geen last van moeilijke zaken als pragmatiek, register, connotaties, stijl etc.