Vivianne Manlai

Träffa Vivianne

Vivianne läser för närvarande examen i filosofi, politik och ekonomi vid Stockholms universitet och teknisk fysik vid Kungliga Tekniska Högskolan, och under de kommande sex månaderna kommer hon att ta del av det internationella AI-policyplaceringsspåret som en del av Talos Fellowship (tidigare känt som EU Tech Policy Fellowship).

Support och inspiration från EA-communityt

Vivianne introducerades för EA av en klasskamrat 2020, som föreslog att läsa EA-handboken tillsammans. Detta väckte hennes intresse och fick henne att gå med i den lokala EA-universitetsgruppen vid Stockholms universitet (SU). En grupp som hon senare var ordförande för under ett läsår. Inte långt efter hennes första engagemang med EA SU rekommenderades hon att gå med på EA Sveriges karriärkurs, som gav vägledning om vad en effektfull karriär kan innebära för henne. En av de mest användbara aspekterna av hennes engagemang i EA Sverige har definitivt varit möjligheterna till personlig coachning och mentorskap.

"Genom detta har jag kunnat bygga relevanta färdigheter, öka mitt självförtroende och få klarhet i min karriärbana. Jag är tacksam för den vägledning jag har fått från EA Sverige-teamet, särskilt inför viktiga karriärbeslut och intervjuer. Det stöd som EA Sverige har erbjudit har inte bara befäst mitt engagemang för EA-principer utan också gett mig det självförtroende och de färdigheter som krävs för att göra en meningsfull karriär inom AI-säkerhet.”

Formar AI-policy på global nivå

Sedan Vivianne lärde sig om behovet av mer ansvarsfulla AI-policyer har Vivianne tagit flera steg för att bidra till detta område. Till exempel att aktivt delta i två AI-säkerhetskurser och söka ledarskapsroller, som att presidera över EA SU, för att fördjupa hennes kunskap och utöka hennes inflytande. För att ytterligare bidra till AI-policyn gick hon med i EU Tech Policy Fellowship (numera Talos Fellowship) och deltar under hösten 2024 i ett spår fokuserat på internationella AI-policyer. Som en del av detta stipendium kommer hon att praktisera vid en tankesmedja för europeisk policyforskning, där hon kommer att få möjlighet att hjälpa till att forma AI-politiska ramar. Hennes framtida ambitioner inkluderar att avsluta sina studier och fortsätta arbeta inom AI-politisk forskning inom EU.

Varför är AI-policy viktig?

Vivianne tycker att AI går framåt i en aldrig tidigare skådad takt, vilket medför både otrolig potential och betydande risker. Om de inte är korrekt anpassade till mänskliga värderingar kan AI-system utgöra systemiska och existentiella hot. AI-säkerhet är avgörande eftersom den proaktivt tar itu med dessa utmaningar. Hennes nuvarande fokus ligger på internationell AI-policy, och genom att bidra till utvecklingen av säkra och etiska AI-policyer hoppas hon kunna säkerställa att AI fungerar som en kraft för det goda snarare än en källa till skada. På fritiden forskar hon om hur filosofi kan automatiseras med hjälp av LLM.

Viviannes råd till andra som är intresserade av AI-policy

För dem som är intresserade av AI-säkerhet och policy är Viviannes första råd att fördjupa sig i den grundläggande litteraturen - ett bra ställe att börja är webbplatsen för 80,000 Hours och deras forskning om att förhindra en AI-relaterad katastrof och utforska rekommenderade läsningar där. Att engagera sig i EA-gemenskapen är också otroligt värdefullt; nätverket du bygger kan ge vägledning, stöd, möjligheter till samarbete och viktigast av allt, vänskap. Slutligen, sök efter relevanta kurser, praktikplatser eller stipendier som kan hjälpa dig att utveckla den expertis som behövs för att göra en meningsfull inverkan på detta område.