AI-veiligheid
De beste organisaties ter wereld in wat ze doen7 vacatures
Van deze organisaties zijn we er redelijk zeker van dat ze wereldwijd tot de besten behoren in hun vak — doorgelicht door GiveWell, Animal Charity Evaluators, Founders Pledge of The Life You Can Save, of uitgelicht door 80,000 Hours. Daarom staat hier elke functie die openstaat voor iemand in Nederland, ook ondersteunend of operationeel werk. Reken wel op stevige concurrentie, en op werk op afstand of verhuizen.
Expression of Interest: Special Projects Associate
Epoch AIRemoteOp afstand
De cijfers van Epoch AI over rekenkracht en schaalvergroting worden wereldwijd door beleidsmakers en onderzoekers geciteerd; je doet dat onderzoek niet zelf, maar zorgt dat een klein team meer kan publiceren door…
AI-veiligheidOperationsOnderzoekStartersfunctieAssociate Program Officer, Transformative AI Fund
Centre for Effective AltruismRemote - GlobalOp afstand
Dit fonds financiert projecten rond AI-risico's in de fase waarin een paar tienduizend euro het verschil is tussen wel of niet bestaan: bedragen tussen de 10.000 en 150.000 dollar, te klein voor de meeste andere…
AI-veiligheidFinancieelOnderzoekStartersfunctieIT and Security Specialist
Epoch AIRemoteOp afstand
De cijfers van Epoch AI over rekenkracht en schaalvergroting worden wereldwijd door beleidsmakers en onderzoekers overgenomen; dat werkt alleen zolang die data en de systemen eromheen niet gemanipuleerd kunnen worden.
AI-veiligheidInformatiebeveiligingOperationsErvarenTask Development Engineer
METR (Model Evaluation and Threat Research)RemoteOp afstand
De metingen van METR — hoe lang een AI-model zelfstandig aan een taak kan werken — worden overgenomen in system cards van AI-labs en gebruikt door overheden voor beleid.
AI-veiligheidTechniekOnderzoekErvaren
Functies met een hefboom, hier in Nederland4 vacatures
Nederlandse organisaties — ministeries, toezichthouders, universiteiten, banken — waar je vanuit Nederland aan een van deze problemen kunt bijdragen. Niemand heeft ze als geheel doorgelicht, dus beoordelen we per functie: telt wat deze specifieke rol doet, of leunt het op de missie van de werkgever? Dat oordeel is van ons. De concurrentie is hier meestal een stuk minder hevig.
PhD in Safe AI-based Control
Eindhoven University of Technology (TU/e)EindhovenOp locatie in Nederland
Neurale netwerken sturen steeds vaker fysieke systemen aan, maar niemand kan achteraf bewijzen dat ze veilig blijven.
AI-veiligheidOnderzoekSoftware engineeringStartersfunctiePhD researcher on AI-assisted reverse engineering of integrated circuits (1 FTE)
Tilburg UniversityTilburgOp locatie in Nederland
Het controleren van chips op verborgen kwaadaardige schakelingen gebeurt nu grotendeels met de hand, waardoor er maar een fractie wordt nagekeken.
AI-veiligheidSoftware engineeringOnderzoekStagePhD Candidate in Mechanism-Informed World Models and Agents
University of Amsterdam (UvA)AmsterdamOp locatie in Nederland
Of AI-systemen die in de fysieke wereld handelen te controleren en te doorgronden zijn, hangt af van methoden die nu nog in laboratoria worden bedacht.
AI-veiligheidSoftware engineeringOnderzoekStartersfunctiePostdoctoral Researcher in Physics-Informed World Models and Agents
University of Amsterdam (UvA)AmsterdamOp locatie in Nederland
Methoden voor wereldmodellen worden overgenomen door andere onderzoeksgroepen en bedrijven; wie hier controleerbaarheid en toetsbaarheid van agents vroeg inbouwt, beïnvloedt hoe die systemen er later uitzien.
AI-veiligheidOnderzoekSoftware engineeringSenior
Nieuwsgierig geworden?
Als je wilt weten hoe we tot deze lijst komen, hebben we een korte introductiecursus en een nieuwsbrief. Geen van beide kost je iets.