AI safety
Among the best in the world at what they do7 roles
We are fairly confident these organisations are among the best in the world in their field — vetted by GiveWell, Animal Charity Evaluators, Founders Pledge or The Life You Can Save, or featured by 80,000 Hours. So we list every role there that is open to someone in the Netherlands, including support and operations work. Expect fierce competition, and expect remote work or a move.
Expression of Interest: Special Projects Associate
Epoch AIRemoteRemote
De cijfers van Epoch AI over rekenkracht en schaalvergroting worden wereldwijd door beleidsmakers en onderzoekers geciteerd; je doet dat onderzoek niet zelf, maar zorgt dat een klein team meer kan publiceren door…
AI safetyOperationsResearchEntry levelAssociate Program Officer, Transformative AI Fund
Centre for Effective AltruismRemote - GlobalRemote
Dit fonds financiert projecten rond AI-risico's in de fase waarin een paar tienduizend euro het verschil is tussen wel of niet bestaan: bedragen tussen de 10.000 en 150.000 dollar, te klein voor de meeste andere…
AI safetyFinanceResearchEntry levelIT and Security Specialist
Epoch AIRemoteRemote
De cijfers van Epoch AI over rekenkracht en schaalvergroting worden wereldwijd door beleidsmakers en onderzoekers overgenomen; dat werkt alleen zolang die data en de systemen eromheen niet gemanipuleerd kunnen worden.
AI safetyInformation securityOperationsMid levelTask Development Engineer
METR (Model Evaluation and Threat Research)RemoteRemote
De metingen van METR — hoe lang een AI-model zelfstandig aan een taak kan werken — worden overgenomen in system cards van AI-labs en gebruikt door overheden voor beleid.
AI safetyEngineeringResearchMid level
Roles with leverage, here in the Netherlands4 roles
Dutch organisations — ministries, regulators, universities, banks — where you can work on one of these problems without leaving. Nobody has vetted them as a whole, so we judge role by role: does what this specific job does count, or is it leaning on the employer’s mission? That judgement is ours. Competition here is usually a good deal lighter.
PhD in Safe AI-based Control
Eindhoven University of Technology (TU/e)EindhovenOn site in the Netherlands
Neurale netwerken sturen steeds vaker fysieke systemen aan, maar niemand kan achteraf bewijzen dat ze veilig blijven.
AI safetyResearchSoftware engineeringEntry levelPhD researcher on AI-assisted reverse engineering of integrated circuits (1 FTE)
Tilburg UniversityTilburgOn site in the Netherlands
Het controleren van chips op verborgen kwaadaardige schakelingen gebeurt nu grotendeels met de hand, waardoor er maar een fractie wordt nagekeken.
AI safetySoftware engineeringResearchInternshipPhD Candidate in Mechanism-Informed World Models and Agents
University of Amsterdam (UvA)AmsterdamOn site in the Netherlands
Of AI-systemen die in de fysieke wereld handelen te controleren en te doorgronden zijn, hangt af van methoden die nu nog in laboratoria worden bedacht.
AI safetySoftware engineeringResearchEntry levelPostdoctoral Researcher in Physics-Informed World Models and Agents
University of Amsterdam (UvA)AmsterdamOn site in the Netherlands
Methoden voor wereldmodellen worden overgenomen door andere onderzoeksgroepen en bedrijven; wie hier controleerbaarheid en toetsbaarheid van agents vroeg inbouwt, beïnvloedt hoe die systemen er later uitzien.
AI safetyResearchSoftware engineeringSenior
Curious?
If you want to know how we arrive at this list, we run a short intro course and a newsletter. Neither costs anything.