L'essai in vitro de mutation génique sur des cellules de mammifères peut être employé pour détecter des mutations induites par les substances chimiques. Dans ces lignées cellulaires, les systèmes les plus couramment utilisés permettent de détecter une mutation sur les loci de la thymidine kinase (TK), de l’hypoxanthine-guanine phosphoribosyl transferase (HPRT) et d’un transgène de la xanthine-guanine phosphoribosyl transferase (XPRT). Les essais de la mutation de TK, de HPRT et de XPRT détectent différents types d’événements génétiques.

Des cellules en suspension ou en culture monocouche sont exposées à quatre concentrations analysables de la substance d'essai au moins, avec et sans activation métabolique, pendant une période appropriée. Elles sont repiquées pour déterminer la cytotoxicité et pour permettre l'expression phénotypique avant la sélection. On recommande d'utiliser au moins 106cellules. La cytotoxicité est habituellement déterminée en mesurant l'efficacité de clonage relative (survie) ou la croissance totale relative des cultures après la période de traitement. Les cultures traitées sont maintenues dans le milieu de croissance pendant une période suffisante, caractéristique de chaque locus et de chaque type cellulaire, afin de permettre l'expression phénotypique presque optimale des mutations induites. La fréquence de mutant est déterminée par l’ensemencement d’un nombre connu de cellules dans le milieu contenant l'agent sélectif pour détecter des cellules mutantes, et dans le milieu sans agent sélectif pour déterminer l'efficacité de clonage (viabilité). Après un temps approprié d'incubation, des colonies sont comptées.