Ir al contenido

Archivo:Attention-qkv.png

Contenido de la página no disponible en otros idiomas.
De Wikipedia, la enciclopedia libre

Ver la imagen en su resolución original(2129 × 906 píxeles; tamaño de archivo: 152 kB; tipo MIME: image/png)

Resumen

Descripción
English: calculation flow through a single attention head
Fecha
Fuente Trabajo propio
Autor Numiri

Licencia

Yo, el titular de los derechos de autor de esta obra, la publico en los términos de la siguiente licencia:
w:es:Creative Commons
atribución compartir igual
Este archivo está disponible bajo la licencia Creative Commons Attribution-Share Alike 4.0 International.
Eres libre:
  • de compartir – de copiar, distribuir y transmitir el trabajo
  • de remezclar – de adaptar el trabajo
Bajo las siguientes condiciones:
  • atribución – Debes otorgar el crédito correspondiente, proporcionar un enlace a la licencia e indicar si realizaste algún cambio. Puedes hacerlo de cualquier manera razonable pero no de manera que sugiera que el licenciante te respalda a ti o al uso que hagas del trabajo.
  • compartir igual – En caso de mezclar, transformar o modificar este trabajo, deberás distribuir el trabajo resultante bajo la misma licencia o una compatible como el original.

Leyendas

Añade una explicación corta acerca de lo que representa este archivo
calculation of softmax(qK)*V

Elementos representados en este archivo

representa a

74e42bd02883cd07543fe677a9e98d5d63c506b4

739 píxel

1687 píxel

Historial del archivo

Haz clic sobre una fecha y hora para ver el archivo tal como apareció en ese momento.

Fecha y horaMiniaturaDimensionesUsuarioComentario
actual15:39 10 abr 2024Miniatura de la versión del 15:39 10 abr 20242129 × 906 (152 kB)Numirichanged Q_w to W_q. same for K and V.
03:04 10 may 2023Miniatura de la versión del 03:04 10 may 20231687 × 739 (64 kB)Numirichanged (b) to (*) since we only have one footnote item now.
02:41 10 may 2023Miniatura de la versión del 02:41 10 may 20231708 × 758 (65 kB)Numirigrouped attention head, expanded softmax formula
03:17 9 may 2023Miniatura de la versión del 03:17 9 may 20231506 × 712 (59 kB)Numirichanged legend labels _x_, a, b, c, d
11:16 8 may 2023Miniatura de la versión del 11:16 8 may 20231517 × 705 (56 kB)NumiriUploaded own work with UploadWizard

La siguiente página usa este archivo:

Uso global del archivo

Las wikis siguientes utilizan este archivo:

Metadatos