The purpose of this qualitive study is to examine and analyze how the application of generative AI shapes the UX design process, which is reviewed from an ethical perspective to better understand the potential of ethical risks and dilemmas. The study is conducted through semi-structured interviews where the empiricism has been systemically analyzed.

The result of the study highlights the advantages and disadvantages of generative AI as well as the ethical dilemmas that follow its use. The main points in the results are how generative AI streamlines the process and functions as support or an extra colleague, while at the same time the need for human oversight is emphasized. That the AI tools being used are not explainable leads to problems with unreliable outputs, integrity, and potential biases. It also turns out that there is currently a lack of guidelines regarding the use, where it more or less is up to the employees themselves to relate to the tools. The conclusion emphasizes that generative AI should be implemented with transparency and that the industry has a responsibility to convey this. While all users of the tools in the industry need both training and clear guidelines to better uphold ethical use.

Syftet med denna kvalitativa studie är att undersöka och analysera hur tillämpningen av generativ AI formar UX-designprocessen, vilket granskas ur ett etiskt perspektiv för att öka förståelsen kring potentiella etiska risker och dilemman. Studien bygger på semistrukturerade intervjuer där empirin systematiskt har analyserats. Resultatet i studien lyfter de fördelar och nackdelar med generativ AI samt de etiska dilemman som följer med användningen. Huvudpunkterna i resultatet är hur generativ AI effektiviserar processen samt fungerar som ett stöd eller en extra kollega, samtidigt som behovet av mänsklig övervakning lyfts. Att AI-verktygen som används inte är förklarbara medför problem med opålitliga outputs, integritet, samt potentiella biases. Det visar sig också vara bristande riktlinjer i dagsläget kring användningen där det mer eller mindre ligger till de anställdas egna förfogande att förhålla sig till verktygen. Slutsatsen lyfter att generativ AI bör implementeras med transparens och att företagen har ett ansvar inom detta. Samtidigt som alla som använder verktygen i branschen behöver både utbildning samt tydliga riktlinjer för att bättre upprätthålla en etisk användning