Token (leksikalsk analyse)

Token ( engelsk  token ) er et objekt skabt ud fra et leksem i færd med leksikalsk analyse ("tokenization", fra engelsk  tokenizing ).

I applikationsprogrammering er konceptet for et token og dets token muligvis ikke forskelligt.

En token-skabelon er en formel beskrivelse af klassen af ​​tokens, der kan skabe en given type token.

Eksempler
token type eksempler på tokens beskrivelse
num 257 nummer
id Ident951 identifikator
relop <= relationsdrift
snor "Symbol" små bogstaver konstant