Deep Learning, neuronale Netze und Transformationsmodelle haben die NLP-Forschung von Grund auf verändert.
Deep Learning, neuronale Netze und Transformationsmodelle haben die NLP-Forschung von Grund auf verändert. Mit dem Aufkommen von Deep Neural Networks, der Erfindung von Transformationsmodellen und dem sogenannten „Attention-Mechanismus“ entstanden Technologien wie BERT und ChatGPT. Der Attention-Mechanismus kann beispielsweise mehr als nur ähnliche Schlüsselwörter zu Ihrer Abfrage finden. Er gewichtet die einzelnen verbundenen Begriffe anhand ihrer Relevanz. Diese Technologie steckt hinter einigen der interessantesten NLP-Technologien, die derzeit verwendet werden.