Startup voor kunstmatige intelligentie OpenAI heeft officieel een veiligheids- en beveiligingscommissie opgericht die is begonnen met het trainen van zijn volgende vlaggenschip AI-systeem, dat een opvolger zal zijn van het GPT-4 grote taalmodel (LLM) dat ten grondslag ligt aan zijn beruchte chatbot, ChatGPT.
OpenAI kondigt veiligheids- en beveiligingscomité aan om de risico’s van AI te evalueren
In een blogpost van dinsdag zei het bedrijf met het hoofdkantoor in San Francisco dat de commissie het voltallige bestuur zal adviseren over cruciale veiligheids- en beveiligingsbeslissingen voor haar komende projecten en operaties.
OpenAI gaf een kijkje in de toekomst en stelde dat het verwacht dat zijn ‘next frontier-model’ ‘capaciteiten op een hoger niveau’ zal leveren en op een missie is om een systeem voor kunstmatige algemene intelligentie (AGI) te bouwen dat goed presteert bij een breed scala aan taken. vergelijkbaar met mensen.
Het nieuwe model zal waarschijnlijk het huidige fundamentele model van OpenAI, GPT-4, vervangen en een motor zijn voor zijn energiegenererende AI-tools zoals beeldgeneratoren, virtuele assistenten, zoekmachines en chatbots.
De veiligheidscommissie die wordt gevormd om eventuele risico’s van de nieuwe technologie te evalueren, zal worden geleid door Sam Altman, medeoprichter en CEO van OpenAI, en voorzitter Bret Taylor, evenals twee bestuursleden van het bedrijf: Adam DÁngelo, CEO van Quora, en Nicole Seligman, een voormalig algemeen adviseur bij Sony.
De commissie bestaat ook uit vijf technische en beleidsexperts van OpenAI: Aleksander Madry, hoofd paraatheid; Lilian Weng, hoofd veiligheidssystemen; John Schulman, hoofd van de uitlijningswetenschap; Matt Knight, hoofd beveiliging; en Jakub Pachocki, hoofdwetenschapper.
De commissie zal samenwerken met deskundigen uit de sector voordat zij beleidsaanbevelingen doet
OpenAI zei dat de commissie andere veiligheids-, beveiligings- en technische experts zal “behouden en raadplegen” om het werk te ondersteunen. Volgens de blogpost zal het hun eerste taak zijn om de processen en beveiligingen van OpenAI de komende negentig dagen te beoordelen en te ontwikkelen en aanbevelingen te delen met het voltallige bestuur.
Het bedrijf merkte op dat het de aangenomen aanbevelingen publiekelijk zal vrijgeven “op een manier die consistent is met de veiligheids- en beveiligingsnormen” voor kunstmatige-intelligentiesystemen.
OpenAI is van plan de critici van AI te sussen die zeggen dat de technologie “steeds gevaarlijker” wordt, desinformatie helpt verspreiden, banen vervangt en zelfs het voortbestaan van de mensheid bedreigt.
Experts uit de industrie zijn het niet eens met het idee dat technologiebedrijven kunstmatige algemene intelligentie zullen bereiken. Bedrijven als OpenAI, Microsoft, Google en Meta hebben onderzoek en ontwikkeling op dit gebied echter actief bevorderd, waarbij ze ongeveer elke twee tot drie jaar merkbare sprongen laten zien.
Big Four-accountantskantoor PwC wordt de grootste zakelijke klant van OpenAI
Woensdag sloot het door Microsoft gesteunde AI-bedrijf een deal met Big Four-accountantskantoor PwC om de eerste wederverkooppartner en de grootste zakelijke gebruiker van zijn technologieën te worden.
PwC-kantoren in de VS en het VK hebben een overeenkomst getekend met OpenAI voor het gebruik van ChatGPT Enterprise door haar medewerkers en klanten – een bedrijfsgerichte versie van de generatieve AI-chatbot.
Door de deal krijgen de ruim 100.000 werknemers en klanten van PWC – 75.000 in de VS en 26.000 in het VK – toegang tot de nieuwste producten van OpenAI, waaronder het onlangs aangekondigde GPT-4o-model met verbeterde mogelijkheden voor spraak- en beeldverstaan.
In het proces zal het managementadviesbureau ook de grootste klant van OpenAI tot nu toe worden en de eerste partner voor de verkoop van GPT-ondernemingsaanbiedingen aan andere bedrijven.
OpenAI lanceerde ChatGPT Enterprise in augustus 2023 als onderdeel van een poging zich te richten op grote bedrijven. Het product biedt snellere, onbeperkte interacties en is veel flexibeler als het gaat om het bouwen van aangepaste modellen die geschikt zijn voor verschillende gebruiksscenario’s. ChatGPT Enterprise wordt ook geleverd met meer analysetools, wat handig is voor bedrijven.
Vorige maand onthulde de AI-startup dat zijn LLM op ondernemingsniveau ongeveer 600.000 gebruikers heeft, wat volgens Hasslacher 93% van alle Fortune 500-bedrijven omvat.
De deal maakt ook deel uit van PwC’s grensinspanning op het gebied van AI. Vorig jaar kondigde het adviesbureau aan dat het van plan is de komende drie jaar 1 miljard dollar aan investeringen te doen om zijn AI-mogelijkheden uit te breiden en op te schalen.
Het bedrijf heeft aangepaste GPT’s ontwikkeld om werknemers te helpen belastingaangiften te beoordelen, antwoorden op voorstellen te genereren en rapporten en dashboards te genereren. PwC gebruikt ChatGPT Enterprise ook om klanten te helpen de implementatie van generatieve AI-systemen te versnellen en heeft tot nu toe meer dan 3.000 interne gebruiksscenario’s geïdentificeerd in verschillende sectoren.
Meer nieuws: OpenAI Heeft Scarlett Johansson-klinkende Stem Uit GPT-4o Verwijderd
