Værk af Khatri - Rao

Den aktuelle version af siden er endnu ikke blevet gennemgået af erfarne bidragydere og kan afvige væsentligt fra den version , der blev gennemgået den 14. april 2022; checks kræver 4 redigeringer .

Khatri-Rao-produktet  er operationen af ​​matrixmultiplikation defineret af udtrykket [1] [2] :

hvor den -te blok er Kronecker-produktet af de tilsvarende blokke, og forudsat at antallet af rækker og kolonner i begge matricer er ens. Værkets dimension er .

For eksempel, hvis matricerne og har en blokdimension på 2 × 2 :

og ,

derefter:

.

Khatri-Rao søjleformet produkt

Kronecker -søjleproduktet af to matricer kaldes også Khatri-Rao-produktet. Dette produkt antager, at blokkene af matricer er deres søjler. I dette tilfælde , og for hver : . Resultatet af produktet er en -matrix, hvis hver kolonne er opnået som Kronecker-produktet af de tilsvarende kolonner af matricerne og . For eksempel for:

og

kolonne produkt:

.

Den søjleformede version af Khatri-Rao-produktet bruges i lineær algebra til analytisk databehandling [3] og optimering af løsninger på det diagonale matrixinversionsproblem [4] [5] ; i 1996 blev det foreslået at bruge det til at beskrive problemet med fælles estimering af ankomstvinklen og forsinkelsestiden for signaler i et digitalt antennearray [6] , samt til at beskrive responsen af ​​en 4-koordinat radar [ 7] .

Slutprodukt

Der er et alternativt koncept for produktet af matricer, som i modsætning til kolonneversionen bruger opdelingen af ​​matricer i rækker [8]  - ansigtsopdelingsprodukt [7] [ 9] [ 10] eller Khatri - Rao-transponeret produkt ( Engelsk  transponeret Khatri-Rao-produkt ) [11] . Denne type matrixmultiplikation er baseret på Kronecker-rækkeproduktet af to eller flere matricer med det samme antal rækker. For eksempel for:  

og

kan skrives [7] :

.

Grundlæggende egenskaber

Transponere (1996 [7] [9] [12] ):

,

Kommutativitet og associativ drift [7] [9] [12] :

hvor , og er matricer, og er en skalar,

, [12] hvor er en vektor med antallet af elementer lig med antallet af rækker i matrixen ,

Den blandede produktegenskab (1997 [12] ):

, [10] , [11] [13 ] [14] ,

hvor angiver Hadamard-produktet .

Følgende egenskaber er også opfyldt:

hvor er matrixen for den diskrete Fourier-transformation , er vektorfoldningssymbolet ( identiteten følger af egenskaberne for referenceskitsen [17] ),

hvor er en vektor dannet ud fra de diagonale elementer i matrixen , er operationen med at danne en vektor ud fra en matrix ved at placere dens søjler under hinanden.

Kronecker-produktets absorptionsegenskab:

[10] [13] , ,

hvor og er vektorer af ensartet dimension.

For eksempel [16] :


Sætning [16]

Hvis , hvor er uafhængige inklusioner af matrixen, der indeholder rækker , sådan at og , derefter med sandsynlighed for enhver vektor, hvis antallet af rækker .

Især hvis elementerne i matricen er tal , kan man opnå , som for små værdier er i overensstemmelse med grænseværdien for Johnson-Lindenstrauss distributionslemma.

Bloker slutprodukt

For blokmatricer med det samme antal kolonner i de respektive blokke:

og

ifølge definitionen [7] kan blokslutproduktet skrives som:

.

Tilsvarende gælder følgende forhold for et bloktransponeret slutprodukt (eller et blokkolonneprodukt Khatri - Rao ) af to matricer med det samme antal kolonner i de tilsvarende blokke [7] :

.

Transponeringsegenskaben udføres [13] :

Ansøgninger

Familien af ​​slutprodukter af matricer bruges i tensor-matrix-teorien for digitale antennearrays til radiotekniske systemer [11] .

Slutproduktet er blevet udbredt i maskinlæringssystemer, statistisk behandling af big data [16] . Det giver dig mulighed for at reducere mængden af ​​beregninger, når du implementerer datadimensionalitetsreduktionsmetoden, kaldet tensorskitsen [16] såvel som den hurtige Johnson-Lindenstrauss-transformation [16] . I dette tilfælde udføres overgangen fra den oprindelige fremspringende matrix til Hadamard-produktet , som opererer med matricer af en mindre dimension. Approksimationsfejlen for højdimensionelle data baseret på slutproduktet af matricer svarer til det lille forvrængningslemma [16] [20] . I denne sammenhæng kan ideen om slutproduktet bruges til at løse det differentielle privatlivsproblem [ 15 ] .  Derudover er lignende beregninger blevet anvendt til at danne co-forekomst tensorer i naturlig sprogbehandling og billedlighedshypergrafer [21] .

Slutproduktet bruges til P-spline-tilnærmelse [18] , opbygning af generaliserede lineære modeller af dataarrays (GLAM) under deres statistiske behandling [19] og kan bruges til effektivt at implementere kernemetoden til maskinlæring , såvel som at studere interaktion af genotyper med miljøet. [22]

Se også

Noter

  1. Khatri CG, CR Rao . Løsninger til nogle funktionelle ligninger og deres anvendelser til karakterisering af sandsynlighedsfordelinger  (engelsk)  // Sankhya  : journal. - 1968. - Bd. 30 . - S. 167-180 . Arkiveret fra originalen den 23. oktober 2010.
  2. Zhang X; Yang Z & Cao C. (2002), Uligheder, der involverer Khatri-Rao-produkter af positive semi-definite matricer, Applied Mathematics E-notes bind 2: 117-124 
  3. Se fx HD Macedo og JN Oliveira. En lineær algebra tilgang til OLAP . Formal Aspects of Computing, 27(2):283-307, 2015.
  4. Lev-Ari, Hanoch. Effektiv løsning af lineære matrixligninger med anvendelse på multistatisk antennearraybehandling // Kommunikation i information og systemer. - 2005. - 1. januar ( bind 05 , nr. 1 ). - S. 123-130 . — ISSN 1526-7555 . - doi : 10.4310/CIS.2005.v5.n1.a5 .
  5. Masiero, B.; Nascimento, VH Revisiting the Kronecker Array Transform  // IEEE Signal Processing Letters. - 2017. - 1. maj ( bind 24 , nr. 5 ). - S. 525-529 . — ISSN 1070-9908 . - doi : 10.1109/LSP.2017.2674969 . - .
  6. Vanderveen, MC, Ng, BC, Papadias, CB, & Paulraj, A. (n.d.). Samlevinkel og forsinkelsesestimation (JADE) for signaler i flervejsmiljøer . Konferenceoptegnelse fra den tredivte Asilomar-konference om signaler, systemer og computere. — DOI:10.1109/acssc.1996.599145
  7. 1 2 3 4 5 6 7 8 Slyusar, VI (27. december 1996). "Slutprodukter i matricer i radarapplikationer" (PDF) . Radioelectronics and Communications Systems.– 1998, Vol. 41; Nummer 3 : 50-53. Arkiveret (PDF) fra originalen 2020-07-27 . Hentet 2020-07-27 . Forældet parameter brugt |deadlink=( hjælp )
  8. Anna Esteve, Eva Boj & Josep Fortiana (2009): Interaction Terms in Distance-Based Regression, Communications in Statistics - Theory and Methods, 38:19, S. 3501 [1] Arkiveret 26. april 2021 på Wayback Machine
  9. 1 2 3 Slyusar, VI Analytisk model af det digitale antennearray på basis af face-splittende matrixprodukter   // Proc . ICATT-97, Kiev: tidsskrift. - 1997. - 20. maj. - S. 108-109 .
  10. 1 2 3 4 Slyusar, VI (1999). "En familie af ansigtsprodukter af matricer og dens egenskaber" (PDF) . Cybernetik og systemanalyse C/C af Cybernetika I Sistemnyi Analiz . 35 (3): 379-384. DOI : 10.1007/BF02733426 . Arkiveret fra originalen (PDF) den 25. januar 2020 . Hentet 12. juli 2020 .
  11. 1 2 3 4 Minochkin A. I., Rudakov V. I., Slyusar V. I. Grundlæggende om militær-teknisk forskning. Teori og anvendelser. Bind. 2. Syntese af midler til informationsstøtte til våben og militært udstyr // Red. A. P. Kovtunenko. - Kiev: "Granmna". - 2012. C. 7 - 98; 354 - 521 (2012). Hentet 12. juli 2020. Arkiveret fra originalen 25. januar 2020.
  12. 1 2 3 4 5 6 7 Slyusar, VI (1997-09-15). "Nye operationer af matricer produkt til applikationer af radarer" (PDF) . Proc. Direkte og omvendte problemer med elektromagnetisk og akustisk bølgeteori (DIPED-97), Lviv. : 73-74. Arkiveret (PDF) fra originalen 2020-01-25 . Hentet 2020-07-12 . Forældet parameter brugt |deadlink=( hjælp )
  13. 1 2 3 4 5 Vadym Slyusar. Ny Matrix Operations for DSP (Foredrag). april 1999. - DOI: 10.13140/RG.2.2.31620.76164/1
  14. 1 2 C. Radhakrishna Rao . Estimation of Heteroskedastic Variances in Linear Models.//Journal of the American Statistical Association, Vol. 65, nr. 329 (Mar., 1970), s. 161-172
  15. 1 2 Kasiviswanathan, Shiva Prasad, et al. "Prisen for privat udgivelse af beredskabstabeller og spektrene af tilfældige matricer med korrelerede rækker." Proceedings af det 42. ACM-symposium om teori om computing. 2010.
  16. 1 2 3 4 5 6 7 Ahle, Thomas; Knudsen, Jakob Næsten Optimal Tensor Sketch . [ [2] ] (3. september 2019). Hentet 11. juli 2020. Arkiveret fra originalen 14. juli 2020.
  17. Ninh, Pham; Rasmus, Pagh (2013). Hurtige og skalerbare polynomielle kerner via eksplicitte feature maps . SIGKDD international konference om videnopdagelse og datamining. Foreningen for Datamaskiner. DOI : 10.1145/2487575.2487591 .
  18. 12 Eilers , Paul H.C.; Marx, Brian D. (2003). "Multivariat kalibrering med temperaturinteraktion ved hjælp af todimensionel straffet signalregression". Kemometri og intelligente laboratoriesystemer . 66 (2): 159&ndash, 174. DOI : 10.1016/S0169-7439(03)00029-7 .
  19. 1 2 3 Currie, ID; Durban, M.; Eilers, PHC (2006). "Generaliserede lineære array-modeller med applikationer til multidimensionel udjævning". Journal of the Royal Statistical Society . 68 (2): 259&ndash, 280. DOI : 10.1111/j.1467-9868.2006.00543.x .
  20. Ahle, Thomas; Kapralov, Michael; Knudsen, Jacob; Pagh, Rasmus; Velingker, Ameya; Woodruff, David; Zandieh, Amir (2020). Uvidende skitsering af højgradspolynomiske kerner . ACM-SIAM symposium om diskrete algoritmer. Foreningen for Datamaskiner. DOI : 10.1137/1.9781611975994.9 .
  21. Bryan Bischoff. Højere ordens co-forekomst tensorer til hypergrafer via ansigtsdeling. Udgivet 15. februar 2020, Mathematics, Computer Science, ArXiv Arkiveret 25. november 2020 på Wayback Machine
  22. Johannes WR Martini, Jose Crossa, Fernando H. Toledo, Jaime Cuevas. Om Hadamard og Kronecker produkter i kovariansstrukturer for genotype x miljøinteraktion.//Plant Genome. 2020;13:e20033. Side 5. [3]

Litteratur