EP3935629B1 - Codage audio spatialisé avec interpolation et quantification de rotations - Google Patents
Codage audio spatialisé avec interpolation et quantification de rotations Download PDFInfo
- Publication number
- EP3935629B1 EP3935629B1 EP20703048.7A EP20703048A EP3935629B1 EP 3935629 B1 EP3935629 B1 EP 3935629B1 EP 20703048 A EP20703048 A EP 20703048A EP 3935629 B1 EP3935629 B1 EP 3935629B1
- Authority
- EP
- European Patent Office
- Prior art keywords
- matrix
- frame
- channels
- rotation
- rotation matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/002—Dynamic bit allocation
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
- G10L19/032—Quantisation or dequantisation of spectral components
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/06—Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients
Definitions
- the present invention relates to the coding/decoding of spatialized sound data, in particular in an ambiophonic context (hereinafter also referred to as “ambisonic”).
- codecs/decoders are mono (a single signal channel for playback on a single loudspeaker).
- the 3GPP EVS codec (for "Enhanced Voice Services") provides "Super-HD” quality (also called “High Definition +” or HD+ voice) with a super-wideband audio band (SWB for "super-wideband” in English) for signals sampled at 32 or 48 kHz or fullband (FB for "Fullband”) for signals sampled at 48 kHz; the audio bandwidth is 14.4 to 16 kHz in SWB mode (9.6 to 128 kbit/s) and 20 kHz in FB mode (16.4 to 128 kbit/s).
- the next quality evolution in conversational services offered by operators should be immersive services, using terminals such as smartphones, for example, equipped with several microphones or spatial audio conferencing equipment or telepresence-type videoconferencing, or even "live" content sharing tools, with 3D spatial sound rendering, much more immersive than a simple 2D stereo reproduction.
- terminals such as smartphones, for example, equipped with several microphones or spatial audio conferencing equipment or telepresence-type videoconferencing, or even "live" content sharing tools, with 3D spatial sound rendering, much more immersive than a simple 2D stereo reproduction.
- advanced audio equipment accessories such as a 3D microphone, voice assistants with acoustic antennas, virtual reality headsets, etc.
- specific tools for example, the production of 360° video content
- Ambisonics is a method of recording ("coding" in the acoustic sense) spatialized sound and a reproduction system ("decoding” in the acoustic sense).
- An ambisonic microphone (of order 1) comprises at least four capsules (typically of the cardoid or sub-cardoid type) arranged on a spherical grid, for example the vertices of a regular tetrahedron.
- the audio channels associated with these capsules are called the "A-format”.
- This format is converted into a "B-format", in which the sound field is decomposed into four components (spherical harmonics) denoted W, X, Y, Z, which correspond to four coincident virtual microphones.
- the W component corresponds to an omnidirectional capture of the sound field while the X, Y and Z components, more directional, are similar to pressure gradients oriented along the three dimensions of space.
- An ambisonic system is a flexible system in the sense that recording and reproduction are separated and decoupled. It allows decoding (in the acoustic sense) on any configuration of loudspeakers (for example, binaural, 5.1 surround sound or 7.1.4 periphery (with elevation)).
- loudspeakers for example, binaural, 5.1 surround sound or 7.1.4 periphery (with elevation)
- the ambisonic approach can be generalized to more than four channels in B-format and this generalized representation is commonly called "HOA" (for "Higher-Order Ambisonics"). Decomposing the sound on more spherical harmonics improves the spatial precision of restitution when rendered on loudspeakers.
- FOA First-Order Ambisonics
- Planar variant of ambisonics which decomposes the sound defined in a plane which is generally the horizontal plane. In this case, the number of components is 2N+1 channels.
- First-order ambisonics (4 channels: W, X, Y, Z) and planar first-order ambisonics (3 channels: W, X, Y) are hereinafter referred to as "ambisonics" indistinctly to facilitate reading, the treatments presented being applicable regardless of the planar type or not.
- an "ambisonic sound” is a B-format signal at a predetermined order.
- the ambisonic sound may be defined in another format such as A-format or pre-combined channels by fixed matrixing (keeping the number of channels or reducing it to a 3- or 2-channel case), as will be seen later.
- the signals to be processed by the encoder/decoder are presented as successions of blocks of sound samples called “frames” or “sub-frames” hereinafter.
- the input signal is divided into channels (mono) by block 100. These channels are individually encoded by blocks 120 to 122 according to a predetermined allocation. Their bitstream is multiplexed (block 130) and after transmission and/or storage it is demultiplexed (block 140) to apply a decoding of each of the channels (blocks 150 to 152) which are recombined (block 160).
- the MPEG-H codec for ambisonics uses an add-overlap operation that adds delay and complexity, and a linear interpolation on direction vectors that is suboptimal and introduces defects.
- a basic problem with this codec is that it implements a decomposition into predominant and ambience components because the predominant components are supposed to be perceptually distinct from the ambience, but this decomposition is not fully specified.
- the MPEG-H encoder suffers from a mismatch problem between the directions of the principal components from one frame to another: the order of the components (signals) can be permuted as well as the associated directions. This is why the MPEG-H codec uses a matching and overlap-add technique to solve this problem.
- the present invention improves this situation.
- the present invention makes it possible to improve a decorrelation between the N channels to be encoded separately subsequently.
- This separate encoding is also referred to hereinafter as “multi-mono encoding”.
- the present invention makes it possible to maintain overall homogeneity and in particular to avoid audible clicks from one frame to another, during sound reproduction.
- Such interpolation then makes it possible to smooth (“progressively average”) the rotation matrices applied respectively to the previous frame and the current frame and thus attenuate an audible click effect from one frame to the next during playback.
- the ambisonic representation is of order 1 and the number N of channels is four, and the rotation matrix of the current frame is represented by two quaternions.
- each interpolation for a current subframe is a linear spherical interpolation (or “SLERP”), carried out as a function of the interpolation of the subframe preceding the current subframe and from the quaternions of the previous subframe.
- SLERP linear spherical interpolation
- the search for eigenvectors is performed by principal component analysis (or “PCA”) or by Karhunen Loeve transform (or “KLT”), in the time domain.
- PCA principal component analysis
- KLT Karhunen Loeve transform
- This implementation then makes it possible to manage an optimal bit allocation to be assigned for each channel to be coded. It is advantageous as such and could possibly be the subject of separate protection.
- the present invention also aims at a coding device comprising a processing circuit for implementing the coding method presented above.
- It also relates to a computer program comprising instructions for implementing the above method, when these instructions are executed by a processor of a processing circuit.
- Adaptive matrixing allows for more efficient channel decomposition than fixed matrixing.
- the matrixing according to the invention advantageously allows the channels to be decorrelated before multi-mono coding, so that the coding noise introduced by the coding of each of the channels globally distorts the spatial image as little as possible when the channels are recombined to reconstruct an ambisonic signal during decoding.
- the invention makes it possible to ensure a smooth adaptation of the matrixing parameters in order to avoid "click" type artifacts at the edge of the frame or too rapid fluctuations in the spatial image, or even coding artifacts due to too strong variations (for example linked to untimely permutations of sound sources between channels) in the different individual channels resulting from the matrixing which are then coded by different instances of a mono codec.
- a multi-mono coding with preferentially variable allocation of bits between channels (after adaptive matrixing) is presented below, but in variants several instances of a stereo or other core codec can be used.
- the signals are represented by successive blocks of sound samples, these blocks being called “subframes" hereinafter.
- the invention uses a representation of rotations in dimension n with parameters adapted for quantization by frame and especially efficient interpolation by subframe.
- the representations of rotations used in dimensions 2, 3 and 4 are defined below.
- Interpolation between two rotations of respective angles ⁇ 1 and ⁇ 2 can be done by linear interpolation between ⁇ 1 and ⁇ 2 , taking into account the shortest path constraint on the unit circle between these two angles.
- a rotation matrix of size 3x3 can be decomposed into a product of 3 elementary rotations of angle ⁇ along the x, y, or z axes.
- angles are called Euler or Cardan angles.
- the real part a is called a scalar and the three imaginary parts ( b , c , d ) form a 3D vector.
- Unit quaternions (of norm 1) represent rotations - however this representation is not unique; thus, if q represents a rotation, -q represents the same rotation.
- p min (m, n)
- V T is the transpose of V.
- the coefficients ⁇ i in the diagonal of ⁇ are the singular values of the matrix A . By convention, they are generally listed in descending order, and in this case the diagonal matrix ⁇ associated with A is unique.
- HAS U r U ⁇ r ⁇ r 0 0 V r T V ⁇ r T
- U r [ u 1 , u 2 , ..., u r ] are the left singular vectors (or output vectors) of A
- ⁇ r diag( ⁇ 1 , ..., ⁇ r )
- V r [ v 1 , v 2 , ..., v r ] are the right singular vectors (or input vectors) of A.
- the eigenvalues of ⁇ T ⁇ and ⁇ T are ⁇ 1 2 , ... , ⁇ r 2 .
- the columns of U are the eigenvectors of AA T
- the columns of V are the eigenvectors of A T A.
- the SVD can be interpreted geometrically: the image of a sphere in dimension n by the matrix A is in dimension m a hyper-ellipse having principal axes in the directions u 1 , u 2 , ..., u m and of length ⁇ 1 , ..., ⁇ m .
- KLT Karhunen Loeve transformation
- y V T x
- A diag( ⁇ 1 , ..., ⁇ n ) is a diagonal matrix whose coefficients are the eigenvalues.
- the KLT can be seen as a change of basis, because the product V T x expresses the vector x in the basis given by the eigenvectors.
- the KLT allows to decorrelate the components of x ; the variances of the transformed vector y are the eigenvalues of R xx .
- PCA Principal component analysis
- Principal component analysis is a dimensionality reduction technique that produces orthogonal variables and maximizes the variance of the variables after projection (or equivalently minimizes the reconstruction error).
- PCA is a transformation by the V T matrix which projects the data into a new base to maximize the variance of the variables after projection.
- the PCA can also be obtained from an SVD of the signal x i put in the form of a matrix X of size nx N.
- X U D V T
- PCA is generally seen as a dimensionality reduction technique, to "compress" a high-dimensional data set into a smaller set. comprising few principal components.
- PCA advantageously allows the multidimensional input signal to be decorrelated, but channels are avoided (therefore the number of channels is reduced) to avoid introducing artifacts.
- a minimum coding rate is thus forced to avoid “truncating” the spatial image, except in specific variants where eigenvalues are so low that a zero rate may be allowed (for example, to better code artificially created ambisonic sounds with a single synthetically spatialized source).
- Step S1 consists in obtaining the respective signals of the ambisonic channels (here four channels W, Y, Z, X in the example described using a channel order according to the ACN convention for Ambisonics Channel Number), for each frame t .
- These signals can be put in the form of an n x L matrix (for n ambisonic channels (here 4) and L samples per frame).
- the signals of these channels can optionally be pre-processed, for example by a high-pass filter as described later with reference to the figure 3 .
- a principal component analysis PCA or, equivalently, a Karhunen Loeve KLT transform is applied to these signals, in order to obtain eigenvalues and a matrix of eigenvectors from a covariance matrix of the n channels.
- an SVD may be used.
- step S4 this eigenvector matrix, obtained for the current frame t, undergoes signed permutations so that it is as aligned as possible with the matrix of the same nature of the previous frame t -1.
- the axis of the column vectors in the eigenvector matrix corresponds as much as possible to the axis of the column vectors in the same place in the matrix of the previous frame and otherwise, we permute the positions of the eigenvectors of the matrix of the current frame t that do not correspond. Then, we also ensure that the directions of the eigenvectors from one matrix to the other also coincide.
- step S 11 the interpolated rotation matrices are applied to a matrix n X ( L / K ) representing each of the K subframes of the signals of the ambisonic channels of step S 1 (or optionally S2) to decorrelate these signals as much as possible before the multi-mono encoding of step S 14. It is recalled that it is desired to de-correlate as much as possible these signals before this multi-mono transformation, according to a general approach. A binary allocation to the separate channels is made in step S12 and coded in step S13.
- step S14 before carrying out the multiplexing of step S15 and thus finishing the compression coding process, it is possible to decide on a number of bits to be allocated per channel depending on the representativeness of this channel and the flow rate available on the RES network ( figure 7 ).
- the energy in each channel is estimated for a current frame and this energy is multiplied by a predefined score for this channel and for a given rate (this score being for example a MOS score explained later with reference to the figure 3 ). This weights the number of bits to be allocated for each channel.
- a predefined score for this channel and for a given rate this score being for example a MOS score explained later with reference to the figure 3 .
- This weights the number of bits to be allocated for each channel is advantageous as such and can possibly be the subject of separate protection in an ambisonic context.
- this figure 7 illustrates an example of a structural embodiment of a codec (coder or decoder) within the meaning of the invention.
- codec coder or decoder
- the encoder strategy is to de-correlate the channels of the ambisonic signal as much as possible and to encode them with a core codec. This strategy allows to limit the artifacts in the decoded ambisonic signal. More specifically, we seek to apply an optimized decorrelation of the input channels before a multi-mono coding here. Moreover, an interpolation whose computational cost for the encoder and the decoder is limited because it is carried out in a specific domain (angle in 2D, quaternion in 3D, double quaternion in 4D) allows to interpolate the covariance matrices calculated for the PCA/KLT analysis rather than repeating several times per frame a decomposition into eigenvalues and eigenvectors.
- the latter may typically be an extension of the standardized 3GPP EVS (for "Enhanced Voiced Services") encoder.
- EVS for "Enhanced Voiced Services" encoder.
- the EVS coding rates can be used without modifying the structure of the EVS bitstream.
- the multi-mono coding (block 340 of the figure 3 described later) operates here with a possible allocation to each transformed channel, restricted to the following bitrates for super-wideband audio coding: 9.6; 13.2; 16.4; 24.4; 32; 48; 64; 96 and 128 kbit/s.
- EVS codec it is possible to add additional flow rates (to have a finer allocation granularity) by modifying the EVS codec. It is also possible to use a codec other than EVS type, for example the OPUS ® codec.
- block 300 receives an input signal Y in the current frame of index t .
- the index is not indicated here so as not to make the notations cumbersome. It is a matrix of size nx L .
- n 4 channels W, Y, Z, X (thus defined according to the ACN order) which can be normalized according to the SN3D convention.
- the order of the channels can be alternatively for example W, X, Y, Z (following the FuMA convention) and the normalization can be different (N3D or FuMa).
- the block 300 of the encoder applies a preprocessing (optional) to obtain the preprocessed input signal noted Y .
- This can be a high-pass filtering (with a cut-off frequency typically at 20 Hz) of each new 20 ms frame of the input signal channels. This operation makes it possible to remove the continuous component likely to bias the estimation of the covariance matrix so that at the output of block 300 the signal can be considered as having zero mean.
- a 6th order Butterworth filter with a frequency of 50 Hz.
- the pre-processing may include a fixed matrixing step that may keep the same number of channels or reduce the number of channels.
- the following block 310 estimates at each frame t a transformation matrix obtained by determining the eigenvectors by PCA/KLT and verifying that the transformation matrix formed by these eigenvectors characterizes a rotation. Details regarding the operation of block 310 are given later with reference to the figure 4 .
- This transformation matrix performs a matrixing of the channels to de-correlate them allowing independent multi-mono type coding to be applied by the block 340.
- the block 310 transmits to the multiplexer quantification indices representing the transformation matrix and optionally information coding the number of interpolations of the transformation matrix, per subframe of the current frame t, as also detailed later.
- Block 320 determines the optimal flow allocation for each channel (after PCA/KLT transformation) based on a given bit budget B. This block seeks a flow distribution between channels by calculating a score for each possible combination of flow rates; the optimal allocation is found by seeking the combination maximizing this score.
- the number of possible bit rates for mono encoding of a channel may be limited to the nine discrete bit rates of the EVS codec having a super-wide audio bandwidth: 9.6; 13.2; 16.4; 24.4; 32; 48; 64; 96 and 128 kbit/s.
- the codec according to the invention operates at a given bit rate associated with a budget of B bits in the current frame of index t, in general only a subset of these listed bit rates is usable.
- B multimono B ⁇ B overhead
- B overhead is the bit budget for the extra information encoded per frame (bit allocation + rotation data) as described later.
- adaptive matrix coding based on PCA/KLT processing and allowing flexible bit allocation can result in unused bits and, for some channels, a lower throughput (e.g. 9.6 kbit/s) than the throughput equally distributed between each of the channels (e.g. 13.2 kbit/s per channel).
- a lower throughput e.g. 9.6 kbit/s
- the throughput equally distributed between each of the channels e.g. 13.2 kbit/s per channel.
- ⁇ i 1 n b t , i ⁇ B S b t , 1 ,.. , b t , n
- the factor E i can be set to the value taken by the eigenvalue associated with channel i resulting from the decomposition into eigenvalues of the signal at the input of block 310 and after possible signed permutation.
- MOS score values for each of the listed bitrates can be derived from other tests (subjective or objective) predicting the quality of the codec. It is also possible to adapt the MOS scores used in the current frame based on a classification of the signal type (e.g. speech without background noise, or speech with ambient noise, or music or mixed content), by reusing classification methods implemented by the EVS codec and applying them to the W channel of the input ambisonic signal before performing the bit allocation.
- the MOS score can also correspond to an average score derived from different types of methodologies and rating scales: MOS (absolute) from 1 to 5, DMOS (from 1 to 5), MUSHRA (from 0 to 100).
- the list of rates b i and the notes Q ( b i ) can be replaced according to this other codec. It is also possible to add additional coding rates to the EVS encoder and thus complete the list of rates and MOS notes, or to modify the EVS encoder and potentially the associated MOS notes.
- the allocation between channels is refined by weighting the energy by a power ⁇ where ⁇ takes a value between 0 and 1.
- ⁇ takes a value between 0 and 1.
- a second weight can be added to the score function to penalize inter-frame rate changes.
- a penalty is added to the score if the rate combination is not the same in frame t as in frame t - 1.
- This additional weighting helps to limit too frequent fluctuations in flow rate between channels. With this weighting, only significant energy changes lead to a change in flow rate.
- the value of the constant can also be varied to adjust the stability of the allocation.
- this flow rate is coded by block 330 for example exhaustively for all flow rate combinations.
- the index can then be represented by a coding of the type "permutation code” + "combination offset”; for example, in the example where one codes on a 4-bit index the 16 combinations of rates comprising 4 permutations of (13.2, 13.2, 13.2, 9.6) and 12 permutations of (16.4, 13.2, 9.6, 9.6), one can use indices 0-3 to code the first 4 possible permutations (with an offset of 0 and a code ranging from 0 to 3) and indices 4-15 to encode the 12 other possible permutations (with an offset of 4 and a code from 0 to 11).
- the multiplexing block 350 takes as input the n matrixed channels coming from the block 310 and the bit rates allocated to each channel coming from the block 320 to then separately code the different channels with a core codec that corresponds to the EVS codec for example. If the core codec used allows stereo or multichannel coding, the multi-mono approach can be replaced by multi-stereo or multichannel coding. Once the channels are coded, the associated bit stream is sent to the multiplexer (block 350).
- the remaining bit budget can be redistributed to the coding of the transformed channels in order to use the entire available budget and if the multimono coding is based on EVS-like technology, then the specified 3GPP EVS coding algorithm can be modified to introduce additional bit rates. In this case, it is also possible to integrate these additional bit rates into the table defining the correspondence between b i and Q ( b i ) .
- this matrix can be replaced by the correlation matrix, where the channels are pre-normalized by their respective standard deviation, or in general weights reflecting relative importance can be applied to each of the channels; furthermore the normalization term 1/( L - 1) can be omitted or replaced by another value (e.g. 1/ L ).
- the values C ij correspond to the variance between x i and x j .
- the encoder then performs in block 410 an eigenvalue decomposition (EVD for “Eigenvalue Decomposition” in English), by calculating the eigenvalues and the eigenvectors of the matrix C .
- the eigenvectors are denoted here V t to indicate the frame index t because the eigenvectors V t- 1 obtained in the previous frame of index t - 1 are preferentially stored and used subsequently.
- the eigenvalues are denoted ⁇ 1 , ⁇ 2 , ⁇ , ⁇ n .
- a singular value decomposition (SVD) of the preprocessed channels X can be used. This gives the singular vectors (left U and right V) and the singular values ⁇ i .
- the encoder then applies in block 420 a first signed permutation of the columns of the transformation matrix for frame t (whose columns are the eigenvectors) in order to avoid too much disparity with the transformation matrix of the previous frame t -1, which would cause click problems at the border with the previous frame.
- the eigenvectors of frame t are permuted so that the associated basis are as close as possible to the basis of frame t - 1. This has the effect of improving the continuity of transformed signal frames (once the transformation matrix is applied to the channels).
- transformation matrix must correspond to a rotation. This constraint ensures that the encoder can convert the transformation matrix into generalized Euler angles (block 430) to quantize them (block 440) with a predetermined bit budget as seen previously. For this purpose, the determinant of this matrix must be positive (typically equal to +1).
- the transformation matrix at frame t is designated by V t so that at the next frame the stored matrix becomes V t- 1 .
- Finding the optimal (pair) permutation can be done by using the above list as a predefined double quaternion dictionary and performing a nearest neighbor search against the double quaternion associated with the pass matrix.
- An advantage of this method is that it reuses the quaternion and double quaternion type rotation parameters.
- the transformation matrix from blocks 410 and 420 is an orthogonal (unitary) matrix which can have a determinant at -1 or 1, i.e. a reflection or rotation matrix.
- the transformation matrix is a reflection matrix (if its determinant is equal to -1), it can be changed to a rotation matrix by inverting an eigenvector (e.g. the eigenvector associated with the lowest value) or by swapping two columns (eigenvectors).
- an eigenvector e.g. the eigenvector associated with the lowest value
- Some eigenvalue decomposition methods e.g. Givens rotation
- singular value decomposition methods can lead to transformation matrices that are intrinsically rotation matrices (with a determinant at +1); in this case, the step of checking that the determinant is +1 will be optional.
- Block 430 converts the rotation matrix into parameters.
- an angular representation is used for quantization (6 generalized Euler angles for the 4D case, 3 Euler angles for the 3D case, and one angle in 2D).
- ambisonic case four channels
- six generalized Euler angles are obtained according to the method described in the article “Generalization of Euler Angles to N-Dimensional Orthogonal Matrices” by David K. Hoffman, Richard C. Raffenetti, and Klaus Ruedenberg, published in Journal of Mathematical Physics 13, 528 (1972 ); for the case of planar ambisonics (three channels) three Euler angles are obtained and for the stereo case a rotation angle is obtained according to the well-known methods of the state of the art.
- the values of the angles are quantized in block 440 with a predetermined bit budget.
- a scalar quantization is used and the quantization step is for example identical for each angle.
- the quantization indices of the transformation matrix are sent to the multiplexer (block 350). Additionally, block 440 may convert the quantized parameters into a quantized rotation matrix V ⁇ t , if the parameters used for quantization do not match the parameters used for interpolation.
- the number of interpolations can be fixed (equal to a predetermined value) or adaptive. Each frame is then divided into subframes according to the number of interpolations determined in block 450. Thus, if adaptive interpolation is used, block 450 can code on a chosen number of bits the number of interpolations to be carried out, and therefore the number of subframes to be provided, in the case where this number is determined adaptively; in the case of fixed interpolation, no information is to be coded.
- block 460 converts the rotation matrices into a specific domain representing a rotation matrix.
- the frame is cut into subframes, and in the chosen domain the interpolation is performed for each subframe.
- the encoder For a 1st order ambisonic input signal (4 channels W, X, Y, Z), in block 460 the encoder reconstructs from the 6 quantized Euler angles a quantized 4D rotation matrix and this is then converted into two unit quaternions for interpolation purposes. In a variant where the encoder input is a planar ambisonic signal (3 channels W, X, Y), in block 460 the encoder reconstructs from the 3 quantized Euler angles a quantized 3D rotation matrix and this is then converted into a unit quaternion for interpolation purposes. In a variant where the encoder input is a stereo signal, the encoder uses in block 460 the quantized 2D rotation representation with a rotation angle.
- the rotation matrix calculated for frame t is factorized into 2 quaternions (a double quaternion) using Cayley factorization and the double quaternion stored for the previous frame t -1 and denoted ( Q L,t- 1 , Q R,t -1 ) is used.
- the matrices V t interp ⁇ (or their transposes) calculated per subframe in the interpolation block 460 are then used in the transformation block 470 which produces n transformed channels by applying the rotation matrices thus found, to the ambisonic channels which have been preprocessed by the block 300.
- the final deviation between the corrected rotation matrix of frame t and the rotation matrix of frame t - 1 gives a measure of the importance of the difference in channel matrixing between the two frames.
- is a norm of the matrix M which here corresponds to the sum of the absolute values of all the coefficients.
- Other matrix norms can be used (for example the Frobenius norm).
- the number K of interpolations determined by block 450 is then sent to the interpolation module 460 and in the adaptive case the number of subframes is coded in the form of a binary index which is sent to the multiplexer (block 350).
- the interpolation used requires a limited computational cost for the encoder and decoder since it is performed in a specific domain (angle in 2D, quaternion in 3D, double quaternion in 4D). This approach is more advantageous than interpolating covariance matrices calculated for PCA/KLT analysis and repeating several times per frame an eigenvalue decomposition type EVD (for "EigenValue Decomposition").
- the allocation information is decoded (block 510) which makes it possible to demultiplex and decode (block 520) the bit stream(s) received for each of the n transformed channels.
- Block 520 uses multiple separately executed instances of the core decoding.
- the core decoding may be of the EVS type, possibly modified to improve its performance.
- each channel is decoded separately. If the coding previously used is a stereo or multichannel coding, the multi-mono approach can be replaced by a multi-stereo or multichannel for decoding.
- the channels thus decoded are sent to block 530 which decodes the rotation matrix for the current frame and optionally the number K of subframes to be used for interpolation (if the interpolation is adaptive).
- the interpolation block 460 cuts the frame into subframes whose number K can be read in the coded stream by block 610 ( figure 6 ) and interpolates the rotation matrices, the aim being to find - in the absence of transmission errors - the same matrices as in block 460 of the encoder in order to be able to reverse the transformation which was previously made in block 470.
- Block 530 performs the matrixing inverting that of block 470 to reconstruct a decoded signal, as detailed below with reference to figure 6 .
- Block 530 performs overall the decoding and inverse PCA/KLT synthesis that was performed by block 310 of the figure 3 .
- the quantization indices of the quantization parameters of the rotation in the current frame are decoded in block 600.
- a scalar quantization can be used and the quantization step is identical for each angle.
- the number of interpolation subframes is decoded (block 610) to find the number K of subframes among the set ⁇ 10, 48, 96, 192 ⁇ ; in variants where the frame length L is different, this set of values can be adapted.
- the interpolation of the decoder is identical to that carried out at the encoder (block 460).
- Block 620 performs inverse matrixing of the Ambisonics channels per subframe using the inverses (transposes in practice) of the transformation matrices calculated in block 460.
- the invention uses a completely different approach than the MPEG-H add/overlap codec by relying on a specific representation of the transformation matrices which are restricted to rotation matrices from one frame to another, in the time domain, allowing in particular an interpolation of the transformation matrices, with a matching which ensures consistency in direction (including taking into account the direction by the sign).
- the general approach of the invention is a coding of ambisonic sounds in the time domain by PCA with in particular PCA transformation matrices forced to be rotation matrices and interpolated by subframes in an optimized manner (in particular in the quaternion/double quaternion domain) to improve the quality.
- the interpolation step is either fixed or adaptive according to a criterion of deviation between an inter-correlation matrix and a reference matrix (identity) or between matrices to be interpolated.
- the quantization of the rotation matrices can be implemented in the domain of generalized Euler angles. However, it can be preferentially chosen to quantize the matrices of dimension 3 and 4 in the domain of quaternions and double quaternions (respectively), which makes it possible to remain in the same domain for the quantization and the interpolation.
- eigenvector alignment is used to avoid clicks and channel inversion issues from frame to frame.
- V t interp ⁇ V t ⁇ 1 V t ⁇ 1 T V t ⁇
- this variant could also replace the interpolation by double unit quaternion (4D case), unit quaternion (3D case) or angle, however it would be less advantageous because it would require an additional diagonalization step and power calculations, whereas the embodiment described previously is more efficient for these cases of 2, 3 or 4 channels.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Mathematical Physics (AREA)
- Stereophonic System (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
- La présente invention concerne le codage/décodage de données sonores spatialisées, notamment en contexte ambiophonique (noté ci-après également « ambisonique »).
- Les codeurs/décodeurs (ci-après appelés « codées ») qui sont utilisés actuellement en téléphonie mobile sont mono (un seul canal de signal pour une restitution sur un seul haut-parleur). Le codée 3GPP EVS (pour « Enhanced Voice Services ») permet d'offrir une qualité « Super-HD » (aussi appelée voix « Haute Définition + » ou HD+) avec une bande audio en bande super-élargie (SWB pour « super-wideband » en anglais) pour des signaux échantillonnés à 32 ou 48 kHz ou pleine bande (FB pour « Fullband ») pour des signaux échantillonnés à 48 kHz ; la largeur de bande audio est de 14,4 à 16 kHz en mode SWB (de 9,6 à 128 kbit/s) et de 20 kHz en mode FB (de 16,4 à 128 kbit/s).
- La prochaine évolution de qualité dans les services conversationnels proposés par les opérateurs devrait être constituée par les services immersifs, en utilisant des terminaux tels que des smartphones par exemple équipés de plusieurs microphones ou des équipements de conférence audio spatialisée ou de visioconférence de type télé-présence, ou encore des outils de partage de contenus « live », avec un rendu sonore spatialisé en 3D, autrement plus immersif qu'une simple restitution stéréo 2D. Avec les usages de plus en plus répandus d'écoute sur téléphone mobile avec un casque audio et l'apparition d'équipements audio avancés (accessoires tels qu'un microphone 3D, assistants vocaux avec antennes acoustiques, casques de réalité virtuelle, etc.) et d'outils spécifiques (par exemple de la production de contenu vidéo 360°) la captation et le rendu de scènes sonores spatialisées sont désormais assez communes pour offrir une expérience de communication immersive.
- A ce titre, la future norme 3GPP « IVAS » (pour « Immersive Voice And Audio Services ») propose l'extension du codée EVS à l'immersif en acceptant comme format d'entrée du codée au moins les formats de son spatialisé listés ci-dessous (et leurs combinaisons):
- Format multicanal (channel-based en anglais) de type stéréo, 5.1 où chaque canal vient alimenter un haut-parleur (par exemple L et R en stéréo, ou L, R, Ls, Rs et C en 5.1)
- Format objet (object-based en anglais) où des objets sonores sont décrits comme un signal audio (en général mono) associé à des métadonnées décrivant les attributs de cet objet (position dans l'espace, largeur spatiale de la source, etc.), et
- Format ambisonique (scene-based en anglais) qui décrit le champ sonore en un point donné, en général capté par un microphone sphérique ou synthétisé dans le domaine des harmoniques sphériques.
- On s'intéresse ci-après typiquement au codage d'un son au format ambisonique, à titre d'exemple de réalisation (au moins certains aspects présentés en lien avec l'invention ci-après pouvant également s'appliquer à d'autres formats que de l'ambisonique).
- L'ambisonique est une méthode d'enregistrement (« codage » au sens acoustique) de son spatialisé et un système de reproduction (« décodage » au sens acoustique). Un microphone ambisonique (à l'ordre 1) comprend au moins quatre capsules (typiquement de type cardoïde ou sous-cardoïde) arrangées sur une grille sphérique, par exemple les sommets d'un tétraèdre régulier. Les canaux audio associés à ces capsules s'appellent le « A-format ». Ce format est converti dans un « B-format », dans lequel le champ sonore est décomposé en quatre composantes (harmoniques sphériques) notées W, X, Y, Z, qui correspondent à quatre microphones virtuels coïncidents. La composante W correspond à une captation omnidirectionnelle du champ sonore alors que les composantes X, Y et Z, plus directives, sont assimilables à des gradients de pression orientés suivant les trois dimensions de l'espace. Un système ambisonique est un système flexible dans le sens où l'enregistrement et la restitution sont séparés et découplés. Il permet un décodage (au sens acoustique) sur une configuration quelconque de haut-parleurs (par exemple, binaural, son « surround » de type 5.1 ou périphonie (avec élévation) de type 7.1.4). Bien entendu, l'approche ambisonique peut être généralisée à plus de quatre canaux en B-format et cette représentation généralisée est couramment nommée « HOA » (pour « Higher-Order Ambisonics »). Le fait de décomposer le son sur plus d'harmoniques sphériques améliore la précision spatiale de restitution lors d'un rendu sur hauts-parleurs.
- Un signal ambisonique à l'ordre N comprend (N+1)2 composantes et, à l'ordre 1 (si N=1), on retrouve les quatre composantes de l'ambisonique original qui est couramment appelé FOA (pour First-Order Ambisonics). Il existe aussi une variante dite « planaire » de l'ambisonique qui décompose le son défini dans un plan qui est en général le plan horizontal. Dans ce cas, le nombre de composantes est de 2N+1 canaux. L'ambisonique d'ordre 1 (4 canaux : W, X, Y, Z) et l'ambisonique d'ordre 1 planaire (3 canaux : W, X, Y) sont désignés ci-après par « ambisonique » indistinctement pour faciliter la lecture, les traitements présentés étant applicables indépendamment du type planaire ou non. Si toutefois dans certains passages il est besoin de faire une distinction, les termes « ambisonique d'ordre 1 » et « ambisonique d'ordre 1 planaire » sont utilisés. On remarquera que l'on peut dériver du B-format à l'ordre 1 un signal stéréo (2 canaux) correspondant à des captations stéréo coïncidentes de type Blumlein Crossed Pair (X+Y et X-Y) ou Mid-Side (en combinant W et X pour le Mid et en prenant Y comme Side).
- Par la suite, on appelle « son ambisonique » un signal en B-format à un ordre prédéterminé. Dans des variantes, le son ambisonique peut être défini dans un autre format tel que le A-format ou des canaux précombinés par matriçage fixe (conservant le nombre de canaux ou le réduisant à un cas à 3 ou 2 canaux), comme on le verra plus loin.
- Les signaux à traiter par le codeur/décodeur se présentent comme des successions de blocs d'échantillons sonores appelés « trames » ou « sous-trames » ci-après.
- En outre, ci-après, les notations mathématiques suivent la convention suivante :
- Vecteur : u (minuscule, gras)
- Matrice : A (majuscule, gras)
- L'approche la plus simple pour coder un signal stéréo ou ambisonique consiste à utiliser un codeur mono et de l'appliquer en parallèle à tous les canaux avec éventuellement une allocation des bits différente selon les canaux. Cette approche est appelée ici « multi-mono » (même si en pratique on peut généraliser l'approche à du multi-stéréo ou une utilisation de plusieurs instances parallèles d'un même codec coeur).
- Une telle réalisation est présentée à la
figure 1 . Le signal d'entrée est divisé en canaux (mono) par le bloc 100. Ces canaux sont codés individuellement par les blocs 120 à 122 en fonction d'une allocation prédéterminée. Leur train binaire est multiplexé (bloc 130) et après transmission et/ou stockage il est démultiplexé (bloc 140) pour appliquer un décodage de chacun des canaux (blocs 150 à 152) qui sont recombinés (bloc 160). - La qualité associée varie selon le codage mono utilisé, et elle n'est en général satisfaisante qu'à très haut débit, par exemple avec un débit d'au moins 48 kbit/s par canal mono pour un codage EVS. Ainsi à l'ordre 1 on obtient un débit minimal de 4x48 = 192 kbit/s.
- Les solutions proposées actuellement pour des codées plus sophistiqués, pour de la spatialisation ambisonique notamment, ne sont pas satisfaisantes, notamment en termes de complexité, retard et utilisation efficace du débit, pour assurer une décorrélation efficace entre canaux ambisoniques.
- Par exemple, le codée MPEG-H pour les sons ambisoniques utilise une opération d'addition-recouvrement qui ajoute du retard et de la complexité, ainsi qu'une interpolation linéaire sur des vecteurs de directions qui est sous-optimale et introduit des défauts. Un problème de base de ce codée est qu'il met en oeuvre une décomposition en composantes prédominantes et ambiance car les composantes prédominantes sont censées être perceptuellement distinctes de l'ambiance, mais cette décomposition n'est pas complètement spécifiée. Le codeur MPEG-H souffre de problème de non-correspondance entre les directions des composantes principales d'une trame à l'autre : l'ordre des composantes (signaux) peut être permuté tout comme les directions associées. C'est la raison pour laquelle le codée MPEG- H utilise une technique de « matching » et d'addition-recouvrement (overlap-add en anglais) afin de résoudre ce problème.
- Le document
US 2016/155448 A1 divulgue un procédé de codage en compression de signaux sonores pouvant être appliqué à des canaux en représentation ambisonique recherchant les vecteurs de la matrice de covariance entre les canaux. - Par ailleurs, il serait possible d'utiliser des approches de codage fréquentiel (dans le domaine FFT ou MDCT) plutôt qu'un codage temporel comme dans le codée MPEG-H, mais un traitement des signaux dans le domaine fréquentiel (sous-bandes) oblige à transmettre à un décodeur des données par sous-bande, en augmentant ainsi le débit nécessaire à cette transmission.
- La présente invention vient améliorer cette situation.
- Elle propose à cet effet un procédé de codage en compression de signaux sonores formant une succession dans le temps de trames d'échantillons, dans chacun de N canaux en représentation ambisonique d'ordre supérieur à 0, le procédé comportant :
- former, à partir des canaux pour une trame courante, une matrice de covariance entre canaux et rechercher des vecteurs propres de la matrice de covariance pour obtenir une matrice de vecteurs propres,
- tester la matrice de vecteurs propres pour vérifier qu'elle représente une rotation dans un espace de dimension N et corriger sinon la matrice de vecteurs propres jusqu'à obtenir une matrice de rotation, pour la trame courante, et
- appliquer ladite matrice de rotation aux signaux des N canaux avant un encodage par canaux séparés desdits signaux,
- comparer la matrice de vecteurs propres obtenue pour la trame courante à une matrice de rotation obtenue pour une trame précédant la trame courante, et
- permuter des colonnes de la matrice de vecteurs propres de la trame courante pour assurer une cohérence avec la matrice de rotation de la trame précédente.
- Ainsi, la présente invention permet d'améliorer une décorrélation entre les N canaux à encoder séparément par la suite. Cet encodage séparé est désigné aussi ci-après « encodage multi-mono ». La présente invention permet de conserver une homogénéité globale et d'éviter notamment des clics audibles d'une trame à l'autre, pendant la restitution sonore.
- Dans une forme de réalisation, le procédé peut comporter en outre :
- coder des paramètres tirés de la matrice de rotation en vue d'une transmission via un réseau. Ces paramètres peuvent être typiquement des valeurs de quaternion et/ou d'angle de rotation et/ou d'angle d'Euler comme on le verra plus loin, ou encore simplement des éléments de cette matrice par exemple.
- Toutefois, certaines transformations mises en oeuvre pour l'obtention des vecteurs propres à partir de la matrice de covariance (comme la « PCA/KLT » vue plus loin) sont susceptibles d'inverser le sens de certains des vecteurs propres et il convient alors de vérifier à la fois une cohérence d'axe, puis de direction sur cet axe, de chaque vecteur propre de la matrice de la trame courante. A cet effet, dans une forme de réalisation, la permutation précitée des colonnes permettant d'assurer déjà une cohérence d'axes des vecteurs, le procédé comporte en outre :
- vérifier, pour chaque vecteur propre de la trame courante, une cohérence de direction avec un vecteur-colonne de position correspondante de la matrice de rotation de la trame précédente, et
- en cas d'incohérence, inverser le signe des éléments de ce vecteur propre dans la matrice de vecteurs propres de la trame courante.
- Typiquement, une permutation entre colonnes de la matrice de vecteurs propres inversant le signe d'un déterminant de la matrice de vecteurs propres et le déterminant d'une matrice de rotation étant égal à 1,
on peut estimer le déterminant de la matrice de vecteurs propres, et si ce dernier est égal à -1, on peut alors inverser les signes des éléments d'une colonne choisie de la matrice de vecteurs propres, pour que le déterminant soit égal à 1 et former ainsi une matrice de rotation. - Dans une réalisation, le procédé peut comporter en outre :
- une estimation d'écart entre la matrice de rotation obtenue pour la trame courante et une matrice de rotation obtenue pour une trame précédant la trame courante,
- en fonction de l'écart estimé, déterminer si au moins une interpolation est à opérer entre la matrice de rotation de la trame courante et la matrice de rotation de la trame précédente.
- Une telle interpolation permet alors de lisser (« moyenner progressivement ») les matrices de rotation appliquées respectivement à la trame précédente et la trame courante et atténuer ainsi un effet de clic audible d'une trame à l'autre à la restitution.
- Dans une telle réalisation :
- en fonction de l'écart estimé, il est déterminé un nombre d'interpolations à opérer entre la matrice de rotation de la trame courante et la matrice de rotation de la trame précédente,
- la trame courante est découpée en un nombre de sous-trames correspondant au nombre d'interpolations à opérer, et
- on peut coder au moins ce nombre d'interpolations en vue d'une transmission via le réseau précité.
- Dans une forme de réalisation, la représentation ambisonique est d'ordre 1 et le nombre N de canaux est quatre, et la matrice de rotation de la trame courante est représentée par deux quaternions.
- Dans ce mode de réalisation et dans le cas d'une interpolation, chaque interpolation pour une sous-trame courante est une interpolation sphérique linéaire (ou « SLERP »), menée en fonction de l'interpolation de la sous-trame précédant la sous-trame courante et à partir des quaternions de la sous-trame précédente.
-
- Où:
- Q L,t-1 est l'un des quaternions de la sous-trame précédente t-1,
- Q R,t-1 est l'autre des quaternions de la sous-trame précédente t-1,
- QL,t est l'un des quaternions de la sous-trame courante t,
- QR,t est l'autre des quaternions de la sous-trame courante t,
- Ω L = Arccos (Q L,t-1 · QL,t ) ; Ω R = Arccos (Q R,t-1 · QR,t )
- et α correspond à un facteur d'interpolation.
- Dans une forme de réalisation, la recherche des vecteurs propres est effectuée par analyse en composantes principales (ou « PCA ») ou par transformée de Karhunen Loeve (ou « KLT »), dans le domaine temporel.
- Bien entendu, d'autres réalisations peuvent être envisagées (décomposition en valeurs singulières, ou autres).
- Dans une forme de réalisation, le procédé comporte une étape préalable de prévision de budget d'allocation de bits par canal ambisonique, comprenant :
- pour chaque canal ambisonique, une estimation d'énergie acoustique courante dans le canal,
- la sélection dans une mémoire d'un score prédéterminé, de qualité, fonction de ce canal ambisonique et d'un débit courant dans le réseau,
- l'estimation d'une pondération à opérer pour l'allocation de bits à ce canal, par multiplication du score sélectionné à l'énergie estimée.
- Cette réalisation permet alors de gérer une allocation de bits optimale à attribuer pour chaque canal à coder. Elle est avantageuse en tant que telle et pourrait éventuellement faire l'objet d'une protection séparée.
- La présente invention vise aussi un procédé de décodage de signaux sonores formant une succession dans le temps de trames d'échantillons, dans chacun de N canaux en représentation ambisonique d'ordre supérieur à 0, le procédé comportant:
- recevoir, pour une trame courante, en plus des signaux des N canaux de cette trame courante, des paramètres d'une matrice de rotation,
- construire une matrice de rotation inverse à partir desdits paramètres,
- appliquer ladite matrice de rotation inverse à des signaux issus des N canaux reçus, avant un décodage par canaux séparés desdits signaux.
- Une telle réalisation permet d'améliorer aussi au décodage une décorrélation entre les N canaux.
- La présente invention vise aussi un dispositif de codage comportant un circuit de traitement pour la mise en oeuvre du procédé de codage présenté précédemment.
- Elle vise aussi un dispositif de décodage comportant un circuit de traitement pour la mise en oeuvre du procédé de décodage ci-avant.
- Elle vise aussi un programme informatique comportant des instructions pour la mise en oeuvre du procédé ci-avant, lorsque ces instructions sont exécutées par un processeur d'un circuit de traitement.
- Elle vise aussi un support mémoire non-transitoire stockant les instructions d'un tel programme informatique.
- D'autres avantages et caractéristiques de l'invention apparaitront à la lecture d'exemples de réalisation présentés dans la description détaillée ci-après, et à l'examen des dessins annexés sur lesquels :
- la
figure 1 illustre un codage multi-mono (état de l'art), - la
figure 2 illustre une succession d'étapes principales d'un exemple procédé au sens de l'invention, - la
figure 3 présente la structure générale d'un exemple de codeur selon l'invention, - la
figure 4 présente détaille l'analyse et la transformation PCA/KLT réalisée par le bloc 310 du codeur de lafigure 3 , - la
figure 5 présente un exemple de décodeur selon l'invention, - la
figure 6 présente le décodage et la synthèse PCA/KLT inverse de lafigure 4 , au décodage, - la
figure 7 illustre des exemples de réalisation structurelle d'un codeur et d'un décodeur au sens de l'invention. - L'invention vise à permettre un codage optimisé par :
- un matriçage adaptatif en temporel (en particulier avec une transformation adaptative obtenue par PCA/KLT (« PCA » désignant une analyse en composante principale et « KLT » désignant une transformée de Karhunen Loeve),
- suivi préférentiellement par un codage multi-mono.
- Le matriçage adaptatif permet une décomposition en canaux plus efficaces qu'un matriçage fixe. Le matriçage selon l'invention permet avantageusement de décorréler les canaux avant codage multi-mono, de sorte que le bruit de codage introduit par le codage de chacun des canaux déforme globalement le moins possible l'image spatiale lorsque les canaux sont recombinés pour reconstruire un signal ambisonique au décodage.
- De plus, l'invention permet d'assurer une adaptation douce des paramètres de matriçage afin d'éviter des artéfacts de type « clics » en bordure de trame ou des fluctuations trop rapides d'image spatiale, ou encore des artéfacts de codage dus à des variations trop fortes (par exemple liées à des permutations intempestives de sources sonores entre canaux) dans les différents canaux individuels issus du matriçage qui sont ensuite codés par des instances différentes d'un codée mono. Il est présenté ci-après un codage multi-mono avec allocation préférentiellement variable des bits entre canaux (après matriçage adaptatif), mais dans des variantes plusieurs instances d'un codée coeur stéréo ou autre peuvent être utilisées.
- Afin de faciliter la compréhension de l'invention, il est rappelé ci-après certains concepts explicatifs concernant les rotations en dimension n, les décompositions de type PCA/KLT ou SVD (« SVD » désignant une décomposition en valeurs singulières).
- Les signaux sont représentés par blocs successifs d'échantillons sonores, ces blocs étant appelés « sous-trames » ci-après.
- L'invention utilise une représentation des rotations en dimension n avec des paramètres adaptés pour une quantification par trame et surtout une interpolation efficace par sous-trame. On définit ci-dessous les représentations de rotations utilisées en dimension 2, 3 et 4.
- Une rotation (autour de l'origine) est une transformation de l'espace en dimension n qui modifie un vecteur en un autre vecteur, telle que :
- L'amplitude du vecteur est préservée
- Le produit vectoriel de vecteurs définissant un repère orthonormé avant rotation est préservé après rotation (il n'y a pas de réflexion).
- Une matrice M de taille n x n est une matrice de rotation si et seulement si MT.M=In où In désigne la matrice identité de taille n × n (c'est-à-dire que M est une matrice unitaire, MT désignant la transposée de M) et son déterminant vaut +1.
- On utilise dans l'invention plusieurs représentations qui sont équivalentes à la représentation par matrice de rotation :
En deux dimensions (dans un plan 2D) (n=2) : On utilise comme représentation l'angle de rotation comme suit. -
- Etant donnée une matrice de rotation, on peut calculer l'angle θ en observant que la trace de la matrice est 2cos θ. On notera qu'il est également possible d'estimer θ directement à partir d'une matrice de covariance avant d'appliquer une décomposition en composantes principles (PCA) et décomposition en valeurs propres (EVD) présentées plus loin.
- L'interpolation entre deux rotations d'angles respectifs θ 1 et θ 2 peut se faire par interpolation linéaire entre θ 1 et θ 2, en prenant en compte la contrainte de plus court chemin sur le cercle unité entre ces deux angles.
- Dans l'espace en trois dimensions (3D) (n=3): On utilise comme représentation les angles d'Euler et les quaternions. Dans des variantes on pourra utiliser également une représentation par axe-angle qui n'est pas rappelée ici.
-
- Selon les combinaisons d'axes, les angles sont dits d'Euler ou de Cardan.
- Une autre représentation des rotations 3D toutefois est donnée par les quaternions. Les quaternions sont une généralisation des représentations par nombres complexes avec quatre composantes sous la forme d'un nombre q = a + bi + cj + dk où i 2 = j 2 = k 2 = ijk = -1.
- La partie réelle a est appelée scalaire et les trois parties imaginaires (b, c, d) forment un vecteur 3D. La norme d'un quaternion est
. Les quaternions unitaires (de norme 1) représentent les rotations - cependant cette représentation n'est pas unique ; ainsi, si q représente une rotation, -q représente la même rotation. -
- Les angles d'Euler ne permettent pas d'interpoler correctement des rotations 3D ; pour ce faire on utilise plutôt les quaternions ou la représentation axe-angle. La méthode de l'interpolation SLERP (pour « spherical linear interpolation ») consiste à interpoler selon la formule :
où 0 ≤ α ≤ 1 est le facteur d'interpolation pour aller de q 1 à q 2 et Ω est l'angle entre les deux quaternions: où q 1 . q 2 désigne le produit scalaire entre deux quaternions (identique au produit scalaire entre deux vecteurs de dimension 4). - Cela revient à interpoler en suivant un grand cercle sur une sphère 4D avec une vitesse angulaire constante en fonction de α. Il convient de s'assurer que le plus court chemin est utilisé pour l'interpolant en changeant le signe de l'un des quaternions quand q 1 . q 2 < 0. On notera que d'autres méthodes d'interpolation de quaternions peuvent être utilisées (normalized linear interpolation ou nlerp, splines, ...).
- On remarquera qu'il est également possible d'interpoler des rotations 3D par le biais de la représentation axe-angle ; dans ce cas l'angle est interpolé comme dans le cas 2D et l'axe peut être interpolé par exemple par la méthode SLERP (en 3D) en s'assurant que le plus court chemin est pris sur une sphère unité 3D et en tenant compte du fait que la représentation donnée par l'axe r et l' angle θ est équivalente à celle donnée par l'axe de direction opposée - r et l'angle 2π - θ.
- En dimension 4 (n=4), une rotation peut être paramétrée par 6 angles (n(n-1)/2) et on montre que la multiplication de deux matrices de taille 4x4 appelées quaternion ( Q 1 ) et antiquaternion (
) associées à des quaternions q 1 = a + bi + cj + dk et q 2 = w + xi + yj + zk donne une matrice de rotation de taille 4x4. -
-
- Inversement, étant donné une matrice de rotation 4x4, on peut factoriser cette matrice en un produit de matrices sous la forme
, par exemple avec la méthode dite « factorisation de Cayley ». Cela implique de calculer une matrice intermédiaire appelée « transformée tétragonale » (ou matrice associée) et d'en déduire les quaternions à une indétermination près sur le signe des deux quaternions (qui peut être levée par une contrainte supplémentaire de « plus court chemin » évoquée plus loin). - La décomposition en valeurs singulières (singular value décomposition ou SVD en anglais) consiste à factoriser une matrice réelle A de taille m x n sous la forme :
où U est une matrice unitaire ( U T U = Im ) de taille m × m, Σ est une matrice diagonale rectangulaire de taille m × n à coefficients réels et positifs σi ≥ 0 (i = 1 ... p où p = min (m, n)), V est une matrice unitaire ( V T V = I n ) de taille n × n et VT est la transposée de V. Les coefficients σi dans la diagonale de Σ sont les valeurs singulières de la matrice A. Par convention, elles sont en général listées par ordre décroissant, et dans ce cas la matrice diagonale Σ associée à A est unique. - Le rang r de A est donné par le nombre de coefficients σi non nuls. On peut donc réécrire la décomposition en valeurs singulières comme:
où U r = [u1, u2, ..., ur ] sont les vecteurs singuliers à gauche (ou vecteurs de sortie) de A, Σr = diag(σ1, ..., σr) and Vr = [v1, v2, ..., vr ] sont les vecteurs singuliers à droite (ou vecteurs d'entrée) de A. Cette formulation matricielle peut être aussi ré-écrite comme: - Si la somme est limitée à un indice i < r on obtient une matrice « filtrée » qui ne représente que l'information « prépondérante ».
-
- Qui montre que la matrice A transforme vi en σi ui .
-
-
- La SVD peut être interprétée de façon géométrique : l'image d'une sphère en dimension n par la matrice A est en dimension m une hyper-ellipse ayant des axes principaux selon les directions u1, u2, ..., um et de longueur σ1, ..., σm.
- La transformation de Karhunen Loeve (KLT) d'un vecteur aléatoire x centré en 0 et de matrice de covariance R xx = E [x xT] est définie par:
où V est la matrice de vecteurs propres (avec la convention que les vecteurs propres sont des vecteurs colonne) obtenue par décomposition en valeurs propres de R xx où A = diag(λ1, ..., λn) est une matrice diagonale dont les coefficients sont les valeurs propres. La matrice V = [v1, v2, ...,vn ] contient les vecteurs propres (colonnes) de R xx, tels que - On peut voir la KLT comme un changement de base, car le produit V T x exprime le vecteur x dans la base donnée par les vecteurs propres.
-
- La KLT permet de décorréler les composantes de x ; les variances du vecteur transformé y sont les valeurs propres de R xx .
- L'analyse en composante principale (PCA) est une technique de réduction de dimensionnalité qui produit des variables orthogonales et maximise la variance des variables après projection (ou de façon équivalente minimiser l'erreur de reconstruction).
-
- La décomposition en valeurs propres de R̂ xx sous la forme R̂ xx = VΛV T permet de calculer les composantes principales: yn = V T xn.
- La PCA est une transformation par la matrice V T qui projette les données dans une nouvelle base pour maximiser la variance des variables après projection.
-
- On vérifie que XX T = UDD TU T qui correspond à une diagonalisation de XX T . Ainsi les vecteurs de projection de la PCA correspondent aux vecteurs colonne de U et la projection donne comme résultat U T X = DV T.
- On notera également que la PCA est en général vue comme une technique de réduction de dimensionnalité, pour « compresser » un jeu de données en grande dimension vers un jeu comprenant peu de composantes principales. Dans l'invention, la PCA permet avantageusement de décorréler le signal multidimensionnel en entrée mais on évite de supprimer des canaux (donc réduire le nombre de canaux) pour éviter d'introduire des artéfacts. On force ainsi un débit de codage minimal pour éviter de « tronquer » l'image spatiale, sauf dans des variantes spécifiques où des valeurs propres sont tellement faibles qu'un débit nul peut être autorisé (par exemple pour mieux coder des sons ambisoniques créés artificiellement avec une seule source spatialisée de façon synthétique).
- On se réfère maintenant à la
figure 2 pour décrire des principes généraux des étapes qui sont mises en oeuvre dans un procédé au sens de l'invention, pour une trame courante t. - L'étape S1 consiste à obtenir les signaux respectifs des canaux ambisoniques (ici quatre canaux W, Y, Z, X dans l'exemple décrit utilisant un ordre de canaux selon la convention ACN pour Ambisonics Channel Number), pour chaque trame t. Ces signaux peuvent être mis sous la forme d'une matrice n x L (pour n canaux ambisoniques (ici 4) et L échantillons par trame).
- A l'étape suivante S2, on peut optionnellement pré-traiter les signaux de ces canaux par exemple par un filtre passe-haut comme décrit plus loin en référence à la
figure 3 . - A l'étape suivante S3, on applique à ces signaux une analyse en composantes principales PCA ou de façon équivalente une transformée de Karhunen Loeve KLT, pour obtenir des valeurs propres et une matrice de vecteurs propres à partir d'une matrice de covariance des n canaux. Dans des variantes de l'invention une SVD pourra être utilisée.
- A l'étape S4, cette matrice de vecteurs propres, obtenue pour la trame courante t, subit des permutations signées pour qu'elle soit la plus alignée possible avec la matrice de même nature de la trame précédente t-1. Dans le principe, on s'assure que l'axe des vecteurs colonnes dans la matrice de vecteurs propres correspond le plus possible à l'axe des vecteurs colonnes à la même place dans la matrice de la trame précédente et sinon, on permute les positions des vecteurs propres de la matrice de la trame courante t qui ne correspondent pas. Ensuite, on s'assure en outre que les directions des vecteurs propres d'une matrice à l'autre coïncident également. En d'autres termes, on ne s'intéresse dans un premier temps qu'aux droites qui portent les vecteurs propres (juste la direction, sans le sens) et on cherche pour chaque droite la droite la plus proche dans la matrice de la trame précédente t-1. Pour cela on permute des vecteurs dans la matrice de la trame courante. Puis dans un second temps, on cherche à faire correspondre l'orientation des vecteurs (sens). Pour cela, on inverse le signe des vecteurs propres qui n'auraient pas le bon sens.
- Une telle réalisation permet d'assurer une cohérence maximale entre les deux matrices et éviter ainsi des clics audibles entre deux trames lors d'une restitution sonore.
- A l'étape S5, on s'assure en outre que la matrice de vecteurs propres de la trame courante t, ainsi corrigée par permutations signées, représente bien l'application d'une rotation (d'un angle pour n =2 canaux, de trois angles d'Euler, d'un axe et d'un angle ou d'un quaternion pour n=3 correspondant à la représentation ambisonique d'ordre 1 planaire W, Y, Z, et de deux quaternions pour n=4 en représentation ambisonique d'ordre 1 de type W,Y,Z,X).
- Pour s'assurer qu'il s'agit bien d'une rotation, le déterminant de la matrice de vecteurs propres de la trame courante t, corrigée par permutations, doit être positif et égal à (ou, en pratique, voisin de) +1 à l'étape S6. S'il est égal à (ou proche de) -1, alors il convient de :
- permuter à nouveau deux vecteurs propres (par exemple associés à des canaux de faible énergie, donc peu représentatifs), ou
- préférentiellement d'inverser le signe de tous les éléments d'une colonne (par exemple associée à un canal de faible énergie) à l'étape S6.
- On obtient alors une matrice de vecteurs propres pour la trame courante t correspondant effectivement à une rotation à l'étape S7.
- On peut alors coder sur un nombre de bits alloués à cet effet des paramètres de cette matrice (comme par exemple la valeur d'angle, d'un axe et d'un angle, ou de quaternion(s) de cette matrice) à l'étape S8. Dans une autre réalisation optionnelle mais avantageuse, dans le cas où il est constaté à l'étape S9 un écart significatif (supérieur à un seuil par exemple) entre la matrice de rotation estimée pour la trame courante t et la matrice de rotation de la trame précédente t-1, on peut déterminer un nombre variables de sous-trames d'interpolation : autrement on fixe ce nombre de sous-trames à une valeur pré-déterminée. L'étape S 10 consiste à :
- découper la trame courante en sous-trames, et
- interpoler des matrices à appliquer aux sous-trames successives depuis la matrice de la trame précédente t-1 jusqu'à la matrice de la trame courante t, afin de lisser dans le temps la différence entre les deux matrices.
- A l'étape S 11, on applique les matrices de rotation interpolées à une matrice n X (L/K) représentant chacune des K sous-trames des signaux des canaux ambisoniques de l'étape S 1 (ou optionnellement S2) pour décorréler autant que possible ces signaux avant l'encodage multi-mono de l'étape S 14. Il est rappelé en effet qu'il est souhaité dé-corréler autant que possible ces signaux avant cette transformation multi-mono, selon une approche générale. Une allocation binaire aux canaux séparés est faite à l'étape S12 et codée à l'étape S13.
- A l'étape S 14, avant d'opérer le multiplexage de l'étape S15 et finir ainsi le procédé de codage en compression, on peut décider d'un nombre de bits à allouer par canal en fonction de la représentativité de ce canal et du débit disponible sur le réseau RES (
figure 7 ). Dans une forme de réalisation, on estime l'énergie dans chaque canal pour une trame courante et on multiplie cette énergie par un score prédéfini pour ce canal et pour un débit donné (ce score étant par exemple une note MOS explicitée plus loin en référence à lafigure 3 ). On pondère ainsi le nombre de bits à allouer pour chaque canal. Une telle réalisation est avantageuse en tant que tel et peut éventuellement faire l'objet d'une protection séparée en contexte ambisonique. - On a illustré sur la
figure 7 un dispositif de codage DCOD et un dispositif de décodage DDEC, au sens de l'invention, ces dispositifs étant duals l'un de l'autre (dans le sens de « réversibles ») et reliés l'un à l'autre par un réseau de communication RES. - Le dispositif de codage DCOD comporte un circuit de traitement incluant typiquement :
- une mémoire MEM1 pour stocker des données d'instructions d'un programme informatique au sens de l'invention (ces instructions pouvant être réparties entre le codeur DCOD et le décodeur DDEC) ;
- une interface INT1 de réception de signaux ambisoniques répartis sur différents canaux (par exemple quatre canaux W, Y, Z, X à l'ordre 1) en vue de leur codage en compression au sens de l'invention ;
- un processeur PROC1 pour recevoir ces signaux et les traiter en exécutant les instructions de programme informatique que stocke la mémoire MEM1, en vue de leur codage ; et
- une interface de communication COM 1 pour transmettre les signaux codés via le réseau.
- Le dispositif de décodage DDEC comporte un circuit de traitement propre, incluant typiquement :
- une mémoire MEM2 pour stocker des données d'instructions d'un programme informatique au sens de l'invention (ces instructions pouvant être réparties entre le codeur DCOD et le décodeur DDEC comme indiqué précédemment) ;
- une interface COM2 pour recevoir du réseau RES les signaux codés en vue de leur décodage en compression au sens de l'invention ;
- un processeur PROC2 pour traiter ces signaux en exécutant les instructions de programme informatique que stocke la mémoire MEM2, en vue de leur décodage ; et
- une interface de sortie INT2 pour délivrer les signaux décodés sous forme de canaux ambisoniques W', Y', Z', X', par exemple en vue de leur restitution.
- Bien entendu, cette
figure 7 illustre un exemple d'une réalisation structurelle d'un codée (codeur ou décodeur) au sens de l'invention. Lesfigures 3 à 6 commentées plus loin décrivent en détails des réalisations plutôt fonctionnelles de ces codecs. - On se réfère maintenant à la
figure 3 pour décrire un dispositif codeur au sens de l'invention. - La stratégie du codeur est de dé-corréler au maximum les canaux du signal ambisonique et de les coder avec un codée coeur. Cette stratégie permet de limiter les artéfacts dans le signal ambisonique décodé. Plus particulièrement, on cherche à appliquer une décorrélation optimisée des canaux d'entrée avant un codage multi-mono ici. Par ailleurs, une interpolation dont le coût de calcul pour le codeur et le décodeur est limité car celle-ci est réalisée dans un domaine spécifique (angle en 2D, quaternion en 3D, double quaternion en 4D) permet d'interpoler les matrices de covariance calculées pour l'analyse PCA/KLT plutôt que de répéter plusieurs fois par trame une décomposition en valeurs propres et vecteurs propres.
- Néanmoins, avant d'aborder le codage coeur opéré au sens de l'invention, il est présenté ici quelques fonctionnalités du codeur qui sont avantageuses comme notamment l'optimisation du budget de bits alloués au codage en fonction de critères perceptifs, vue plus loin.
- Dans le mode de réalisation décrit ici du codeur, ce dernier peut être typiquement une extension du codeur normalisé 3GPP EVS (pour « Enhanced Voiced Services »). Avantageusement, on peut reprendre les débits de codage EVS sans modifier alors la structure du train binaire EVS. Ainsi, le codage multi-mono (bloc 340 de la
figure 3 décrit plus loin) fonctionne ici avec une allocation possible à chaque canal transformé, restreinte aux débits suivants pour un codage en bande audio super-élargie : 9,6 ; 13,2 ; 16,4 ; 24,4 ; 32 ; 48 ; 64 ; 96 et 128 kbit/s. - Bien entendu, il est possible d'ajouter des débits supplémentaires (pour avoir une granularité d'allocation plus fine) en modifiant le codée EVS. On peut utiliser aussi un autre codée que de type EVS, par exemple le codée OPUS®.
- De manière générale, on retient que plus la granularité de codage est fine, et plus il faut réserver de bits pour représenter les combinaisons de débits possibles. Un compromis entre finesse d'allocation et information supplémentaire décrivant l'allocation binaire doit être opéré. Cette allocation est optimisée ici par le bloc 320 de la
figure 3 , qui est décrit plus loin. Il s'agit d'une caractéristique avantageuse en tant que telle et indépendante de la décomposition en vecteurs propres en vue d'établir une matrice de rotation au sens de l'invention. A ce titre, l'allocation de bits qu'opère le bloc 320 peut faire l'objet d'une protection séparée. - En référence à la
figure 3 , le bloc 300 reçoit un signal d'entrée Y dans la trame courante d'indice t. L'indice n'est pas indiqué ici pour ne pas alourdir les notations. Il s'agit d'une matrice de taille n x L. Dans une réalisation adaptée en contexte ambisonique d'ordre 1, on a n=4 canaux W, Y, Z, X (définis ainsi selon l'ordre ACN) qui peuvent être normalisés selon la convention SN3D. Dans une variante, l'ordre des canaux peut être alternativement par exemple W, X, Y, Z (en suivant la convention FuMA) et la normalisation peut être différente (N3D ou FuMa). Ainsi les canaux W, Y, Z, X correspondent aux lignes successives : y 1,l , y 2 ,l, y 3 ,l, y 4,l qui seront notées sous la forme de signaux unidimensionnels yi (l), l = 1, ..., L. Il s'agit donc d'une succession d'échantillons de 1 à L occupant la trame t. - On suppose que le signal (dans chaque canal) est échantillonné à 48 kHz, sans perte de généralité. La longueur de trame est fixée à 20 ms, soit L =960 échantillons successifs, sans perte de généralité. Dans des variantes on pourra par exemple utiliser une longueur de trames de L = 640 échantillons pour un échantillonnage à 32 kHz.
- L'analyse PCA/KLT et la transformation PCA/KLT qui sont décrites plus loin sont effectuées dans le domaine temporel. On comprend ainsi que l'on reste ici dans le domaine temporel sans besoin nécessairement d'opérer une transformée en sous-bandes ou plus généralement fréquentielle.
- A chaque trame, le bloc 300 du codeur applique un prétraitement (optionnel) pour obtenir le signal d'entrée prétraité noté Y . Il peut s'agir d'un filtrage passe-haut (de fréquence de coupure typiquement à 20Hz) de chaque nouvelle trame de 20 ms des canaux du signal d'entrée. Cette opération permet d'enlever la composante continue susceptible de biaiser l'estimation de la matrice de covariance de sorte qu'en sortie du bloc 300 le signal peut être considéré comme étant à moyenne nulle. La fonction de transfert est notée Hpre (z), ainsi on a pour chaque canal : Xi (z) = Hpre (z)Yi (z). Si le bloc 300 n'est pas mis en oeuvre on a X = Y. On peut mettre en oeuvre aussi un filtre passe-bas du bloc 340 pour effectuer le codage multi-mono mais lorsque le bloc 300 est mis en oeuvre, le filtrage passe-haut en prétraitement du codage mono qui peut être utilisé dans le bloc 340 est de façon préférentielle désactivé pour éviter de répéter le même prétraitement et réduire ainsi la complexité globale.
- La fonction de transfert notée Hpre (z) ci-dessus peut être du type :
en appliquant ce filtre à chacun des n canaux du signal d'entrée dont les coefficients peuvent être tels que présentés dans le tableau ci-dessous :8 kHz 16 kHz 32 kHz 48 kHz b 0 0.988954248067140 0.994461788958.195 0.997227049904470 0.998150511190452 b 1 -1.977908496134280 -1.988923577916390 -1.994454099808940 -1.996301022380904 b 2 0.988954248067140 0.994461788958195 0.997227049904470 0.998150511190452 a 1 1.977786483776764 1.988892905899653 1.994446410541927 1.996297601769122 a 2 -0.978030508491796 -0.988954249933127 -0.994461789075954 -0.996304442992686 - En variante, on peut utiliser un autre type de filtre, par exemple un filtre de Butterworth d'ordre 6 avec une fréquence à 50 Hz.
-
- On notera que dans ce cas ce prétraitement devra être inversé au décodage en appliquant un matriçage par MA→B = MB→A -1 du signal décodé pour retrouver les canaux au format d'origine.
- Le bloc suivant 310 estime à chaque trame t une matrice de transformation obtenue par détermination des vecteurs propres par PCA/KLT et vérification que la matrice de transformation que forment ces vecteurs propres caractérise bien une rotation. Des précisions quant à l'opération de bloc 310 sont données plus loin en référence à la
figure 4 . Cette matrice de transformation effectue un matriçage des canaux pour les dé-corréler permettant d'appliquer un codage indépendant de type multi-mono par le bloc 340. Comme détaillé plus loin, le bloc 310 transmet au multiplexeur des indices de quantification représentant la matrice de transformation et de façon optionnelle des informations codant le nombre d'interpolations de la matrice de transformation, par sous-trame de la trame courante t, comme détaillé plus loin également. - Le bloc 320 détermine l'allocation de débit optimale pour chaque canal (après transformation PCA/KLT) en fonction d'un budget de bits B donné. Ce bloc cherche une répartition du débit entre canaux en calculant un score pour chaque combinaison possible de débits ; l'allocation optimale est trouvée en cherchant la combinaison maximisant ce score.
- Plusieurs critères peuvent être utilisés pour définir un score pour chaque combinaison.
- Par exemple, le nombre de débits possibles pour le codage mono d'un canal peut être limité aux neuf débits discrets du codée EVS ayant une bande audio super-élargie : 9,6 ; 13,2 ; 16,4 ; 24,4 ; 32 ; 48 ; 64 ; 96 et 128 kbit/s. Cependant si le codée selon l'invention fonctionne à un débit donné associé à un budget de B bits dans la trame courante d'indice t, en général seul un sous-ensemble de ces débits listés est utilisable. Par exemple si le débit du codée est fixé à 4x13,2 = 52,8 kbits/s pour représenter quatre canaux et si chaque canal reçoit un budget minimal de 9,6 kbit/s pour garantir une bande super-élargie pour chacun des canaux, les combinaisons possibles de débits pour le codage de canaux séparés doivent respecter la contrainte que le débit utilisé reste inférieur au débit disponible qui correspond à :
où Boverhead correspond au budget de bits pour l'information supplémentaire codée par trame (allocation binaire + données de rotation) comme décrit plus loin. Par exemple, Boverhead peut être de l'ordre de Boverhead = 55 bits par trame de 20 ms (soit 2,75 kbit/s) pour le cas d'un codage ambisonique à quatre canaux ; cela comprend 51 bits pour coder la matrice de rotation et 4 bits (comme décrit ci-desous) pour coder l'allocation des bits pour le codage des canaux séparés. Pour un débit global de 4x13.2 = 52,8 kbits/s, cela laisse donc un budget de Bmultimono =50.05 kbit/s. - Cela donne en termes de débits par canal les permutations de débit par canal suivantes:
- Singleton (9.6, 9.6, 9.6, 9.6) - total = 38.4
- Permutations de (13.2, 9.6, 9.6, 9.6) - total = 42 kbit/s
- Permutations de (13.2, 13.2, 9.6, 9.6) - total = 45.6 kbit/s
- Permutations de (13.2, 13.2, 13.2, 9.6) - total = 49.2 kbit/s
- Permutations de (16.4, 9.6, 9.6, 9.6) - total = 45.2 kbit/s
- Permutations de (16.4, 13.2, 9.6, 9.6) - total = 48.8 kbit/s
- On observe que certaines combinaisons respectant la limite de budget maximal ont un débit très inférieur aux autres, et finalement seules deux combinaisons pertinentes peuvent être retenues :
- Permutations de (13.2, 13.2, 13.2, 9.6) - 4 cas et débit non utilisé de 50.5 - 49.2 = 1.3 kbit/s
- et Permutations de (16.4, 13.2, 9.6, 9.6) - 12 cas et débit non utilisé de 50.5 - 48.8 = 1.7 kbit/s
- Cela permet d'illustrer que seize combinaisons sont intéressantes en particulier et peuvent être codées sur 4 bits (16 valeurs). Par ailleurs un certain nombre de bits restent potentiellement inutilisés en fonction de l'allocation choisie.
- On observe que le codage du matriçage adaptatif basé sur un traitement PCA/KLT et en autorisant une allocation binaire flexible peut avoir pour effet des bits non utilisés et, pour certains canaux, un débit inférieur (par exemple 9,6 kbit/s) au débit également réparti entre chacun des canaux (par exemple 13,2 kbit/s par canal).
- Pour améliorer cette situation, le bloc 320 peut alors évaluer toutes les combinaisons possibles (pertinentes) de débits pour les 4 canaux issus de la transformation PCA/KLT (en sortie du bloc 310) et leur attribuer un score. Ce score est calculé en se basant sur :
- l'énergie de chaque canal, et
- une note moyenne qui peut être pré-mémorisée et issue de tests subjectifs ou objectifs, laquelle note, notée MOS (pour « Mean Opinion Score », s'agissant d'une note moyenne sur un panel de testeurs), est associée au débit alloué.
-
-
- En variante, le facteur Ei peut être fixé à la valeur que prend la valeur propre associée au canal i issue de la décomposition en valeurs propres du signal en entrée du bloc 310 et après permutation signée éventuelle.
- La note MOS Q(bi ) est de façon préférentielle la note de qualité subjective du codée utilisé pour le codage multi-mono dans le bloc 340 pour un budget bi (en nombres de bits) par trame de 20 ms correspondant à un débit Ri = 50 bi (en bits/sec). On peut utiliser au départ les notes MOS subjectives (moyennes) d'un codeur normalisé EVS données par :
κi 0 1 2 3 4 5 6 7 8 bi 192 264 328 488 640 960 1280 1920 2560 Ri 9600 13200 16400 24400 32000 48000 64000 96000 128000 Q(bi ) 3.62 3.79 4.25 4.60 4.53 4.82 4.83 4.85 4.87 - Alternativement, d'autres valeurs de notes MOS pour chacun des débits listés peuvent être issues d'autres tests (subjectifs ou objectifs) prédisant la qualité du codec. Il est aussi possible d'adapter les notes MOS utilisées dans la trame courante en fonction d'une classification du type de signal (par exemple un signal de parole sans bruit de fond, ou parole avec bruit ambiant, ou musique ou contenu mixte), en réutilisant des méthodes de classification que met en oeuvre le codée EVS et en les appliquant au canal W du signal ambisonique en entrée avant d'effectuer l'allocation binaire. La note MOS peut aussi correspondre à une note moyenne issue de différents types de méthodologies et d'échelles de notation : MOS (absolu) de 1 à 5, DMOS (de 1 à 5), MUSHRA (de 0 à 100).
- Dans une variante où le codeur EVS est remplacé par un autre codec, la liste de débits bi et les notes Q(bi ) peuvent être remplacées en fonction de cet autre codec. On peut également ajouter des débits supplémentaires de codage au codeur EVS et donc compléter la liste de débits et de notes MOS, ou encore modifier le codeur EVS et potentiellement les notes MOS associées.
- Alternativement encore, l'allocation entre les canaux est affinée en pondérant l'énergie par une puissance α où α prend une valeur entre 0 et 1. En faisant varier la valeur de α, on peut ainsi contrôler l'influence de l'énergie dans l'allocation : plus α est proche de 1 plus l'énergie a de l'importance dans le score, et donc plus l'allocation est inégale entre les canaux. A l'inverse, plus α est proche de 0 moins l'énergie a de l'importance et plus l'allocation est équi-répartie entre les canaux. Le score est donc exprimé sous la forme :
- Alternativement encore, pour rendre l'allocation plus stable, une seconde pondération peut être ajoutée à la fonction de score pour pénaliser les changements de débits inter-trames. Une pénalité est ajoutée au score si la combinaison de débit n'est pas la même dans la trame t que dans la trame t - 1. Le score s'exprime alors sous la forme :
où βi a pour valeur une constante pré-déterminée (par exemple 0.1) quand bt,i =b t-1,i et β i = 0 quand b t,i ≠ b t-1 ,i. - Cette pondération supplémentaire permet de limiter les fluctuations trop fréquentes de débit entre les canaux. Avec cette pondération, seuls les changements significatifs d'énergie entrainent un changement de débit. On peut en outre varier la valeur de la constante pour régler une stabilité de l'allocation.
- En référence à nouveau à la
figure 3 , une fois calculé le débit pour chaque trame, ce débit est codé par le bloc 330 par exemple de façon exhaustive pour toutes les combinaisons de débits. Dans le cas de 9 débits et 4 canaux, le débit nécessaire est de , où correspond à l'arrondi à l'entier supérieur. La combinaison des 4 débits peut être codée sous la forme de l'indice : . Cependant on peut préférer énumérer (au départ, hors ligne) les différentes combinaisons de débits pertinentes pour le budget de bits donné et utiliser le débit minimal pour représenter ces combinaisons. L'indice peut alors être représenté par un codage de type « code de la permutation » + « offset de la combinaison » ; par exemple dans l'exemple où on code sur un indice de 4 bits les 16 combinaisons de débit comprenant 4 permutations de (13.2, 13.2, 13.2, 9.6) et 12 permutations de (16.4, 13.2, 9.6, 9.6), on pourra utiliser les indices 0-3 pour coder les 4 premières permutations possibles (avec un offset à 0 et un code allant de 0 à 3) et les indices 4-15 pour coder les 12 autres permutations possibles (avec un offset à 4 et un code de 0 à 11). - En référence à nouveau à la
figure 3 , le bloc de multiplexage 350 prend en entrée les n canaux matricés venant du bloc 310 et les débits alloués à chaque canal venant du bloc 320 pour coder ensuite séparément les différents canaux avec un codée coeur qui correspond au codée EVS par exemple. Si le codée coeur utilisé permet un codage stéréo ou multicanal, l'approche multi-mono peut être remplacée par un codage multi-stéréo ou multicanal. Une fois les canaux codés, le train binaire associé est envoyé au multiplexeur (bloc 350). - Dans les trames où une partie du budget global n'est pas utilisé en totalité, le multiplexeur (bloc 350) peut ajouter des bits de bourrage à zéro pour atteindre le budget de bits alloué à la trame courante, soit
bits. Dans des variantes, le budget de bits restant peut être redistribué au codage des canaux transformés afin d'utiliser tout le budget disponible et si le codage multimono est basé sur une technologie de type EVS, on peut alors modifier l'algorithme de codage 3GPP EVS spécifié pour introduire des débits supplémentaires. Dans ce cas, il est également possible d'intégrer ces débits supplémentaires dans la table définissant la correspondance entre bi et Q(bi ). - On peut en outre réserver un bit pour pouvoir commuter entre deux modes de codage :
- Codage selon l'invention avec codage de la matrice de rotation, et
- Codage selon l'invention avec une matrice de rotation restreinte à la matrice identité (donc non transmise) ce qui revient à un codage multi-mono direct si la matrice de rotation de la trame précédente était aussi une matrice identité (par exemple quand le signal ambisonique comprend des sources sonores très diffuses ou de multiples sources étalées spatialement autour de certaines directions privilégiées, auquel cas les canaux ambisoniques sont moins corrélés que pour des sons mélangeant des sources plus ponctuelles et isolées).
- Le choix entre ces deux modes implique d'utiliser un bit dans le train pour indiquer si la trame courante utilise un matrice de rotation restreinte à la matrice identité sans transmission de paramètres de rotation (bit=0) ou si une matrice de rotation est codée (bit=1). Quand bit=0, on pourra dans des variantes utiliser une allocation des bits fixes aux canaux séparés et ne pas transmettre d'allocation binaire.
-
- En variante, cette matrice peut être remplacée par la matrice de corrélation, où les canaux sont pré-normalisés par leur écart-type respectif, ou de façon générale des pondérations reflétant une importance relative peuvent être appliquées à chacun des canaux ; de plus le terme de normalisation 1/(L - 1) peut être omis ou remplacé par une autre valeur (par exemple 1/L) . Les valeurs C ij correspondent à la variance entre xi et xj.
- Le codeur effectue ensuite dans le bloc 410 une décomposition en valeurs propres (EVD pour « Eigenvalue Décomposition » en anglais), en calculant les valeurs propres et les vecteurs propres de la matrice C. Les vecteurs propres sont notés ici Vt pour indiquer l'indice de trame t car les vecteurs propres V t-1 obtenus dans la trame précédente d'indice t - 1 sont préférentiellement mémorisés et utilisés par la suite. Les valeurs propres sont notées λ 1, λ 2, ···, λn .
- Dans une variante, une décomposition en valeurs singulière (SVD) des canaux prétraités X peut être utilisée. On obtient ainsi les vecteurs singuliers (à gauche U et droite V) et les valeurs singulières σi. Dans ce cas on peut considérer que les valeurs propres λi sont
et les vecteurs propres Vt sont donnés par les n vecteurs (colonne) singuliers à gauche U. - Le codeur applique ensuite dans le bloc 420 une première permutation signée des colonnes de la matrice de transformation pour la trame t (dont les colonnes sont les vecteurs propres) afin d'éviter trop de disparité avec la matrice de transformation de la trame précédente t-1, ce qui engendreraient des problèmes de clics à la frontière avec la trame précédente.
- Ainsi, une fois qu'un ébauche de la matrice de transformation est obtenue pour la trame t, le bloc 430 prend n vecteurs propres estimés Vt = v t,0, ..., vt,n de la trame courante d'indice t et n vecteurs propres V t-1 mémorisés de la trame précédente d'indice t - 1, et applique une permutation signée sur les vecteurs estimés Vt pour qu'ils soient le plus proche possible de V t-1. Ainsi les vecteurs propres de la trame t sont permutés pour que la base associée soient la plus proches possibles de la base de la trame t - 1. Cela a pour effet d'améliorer la continuité des trames de signaux transformés (une fois la matrice de transformation appliquée aux canaux).
- Une autre contrainte est que la matrice de transformation doit correspondre à une rotation. Cette contrainte permet de garantir que le codeur puisse convertir la matrice de transformation en des angles d'Euler généralisés (bloc 430) pour les quantifier (bloc 440) avec un budget de bits prédéterminé comme vu précédemment. A cet effet, le déterminant de cette matrice doit être positif (égal à +1 typiquement).
- Préférentiellement, la permutation signée optimale est obtenue en deux étapes :
- La première étape (S4 sur la
figure 2 précédemment présentée) fait correspondre les vecteurs les plus proches entre deux trames en se souciant uniquement de l'axe et non de la direction (du sens) de l'axe. Ce problème peut être formulé comme un problème combinatoire d'affectation de tâches, où l'objectif est de trouver la configuration qui minimise un coût. Le coût peut être défini ici comme la trace de la valeur absolue de l'inter-corrélation entre les matrices de vecteurs propres des trames t et t - 1. où tr(.) désigne la trace d'une matrice, abs(.) revient à appliquer l'opération de valeur absolue à tous les coefficients d'une matrice et corr(V1,V2) donne la matrice de corrélation entre les vecteurs V1 et V2. - Dans un mode de réalisation la méthode « hongroise » (ou « algorithme hongrois ») sert à déterminer l'assignation optimale qui donne une permutation des vecteurs propres de la trame t;
- La seconde étape (S6 sur la
figure 2 ) consiste à déterminer la direction/sens de chaque vecteur propre permuté. Le bloc 420 calcule l'inter-corrélation entre les vecteurs propres permutés Ṽt de la trame t et le vecteur propre de la trame t - 1 - Si une valeur sur la diagonale de la matrice d'inter-corrélation Γ t est négative, cela dénote un changement de signe entre les directions de vecteurs propres. Une inversion de signe est alors opérée sur le vecteur propre correspondant dans Ṽt.
- A l'issue des deux étapes la matrice de transformation à la trame t est désignée par Vt de sorte qu'à la trame suivante la matrice mémorisée devienne V t-1 .
- Dans une variante, la recherche de la permutation signée optimale peut se faire en calculant la matrice de passage
ou qui est convertie en 3D ou 4D et en convertissant cette matrice de passage respectivement en un quaternion unitaire ou deux quaternions unitaires. La recherche devient alors une recherche du plus proche voisin avec un dictionnaire représentant l'ensemble des permutations signées possibles. Par exemple dans le cas 4D les douze permutations paires possibles (sur 24 permutations totales) de 4 valeurs sont associées aux doubles quaternions unitaires suivants écrits comme des vecteurs 4D: - (1, 0, 0, 0) et (1, 0, 0, 0)
- (0, 0, 0, 1) et (0, 0,-1, 0)
- (0, 1, 0, 0) et (0, 0, 0, -1)
- (0, 0, 1, 0) et (0, -1, 0, 0)]
- (0.5, -0.5, -0.5, -0.5) et (0.5, 0.5, 0.5, 0.5)
- (0.5, 0.5, 0.5, 0.5) et (0.5, -0.5, -0.5, -0.5)
- (0.5, -0.5, 0.5, -0.5) et (0.5, -0.5, 0.5, 0.5)
- (0.5, -0.5, 0.5, 0.5) et (0.5, -0.5, -0.5, 0.5)
- (0.5, 0.5, -0.5, 0.5) et (0.5, 0.5, -0.5, -0.5)
- (0.5, -0.5, -0.5, 0.5) et (0.5, 0.5, -0.5, 0.5)
- (0.5, 0.5, -0.5, -0.5) et (0.5, 0.5, 0.5, -0.5)
- (0.5, 0.5, 0.5, -0.5) et (0.5, -0.5, 0.5, -0.5)
- La recherche de la permutation (paire) optimale peut se faire en utilisant la liste ci-dessus comme un dictionnaire de double quaternion prédéfini et en effectuant une recherche du plus proche voisin par rapport au double quaternion associé à la matrice de passage. Un avantage de cette méthode est de réutiliser les paramètres de rotation de type quaternion et double quaternion.
-
- Or la matrice de transformation issue des blocs 410 et 420 (après EVD et permutations signées) est une matrice orthogonale (unitaire) pouvant avoir un déterminant à -1 ou 1, c'est-à-dire une matrice de réflexion ou de rotation.
- Si la matrice de transformation est une matrice de réflexion (si son déterminant est égal à -1), elle peut être modifiée en une matrice de rotation en inversant un vecteur propre (par exemple le vecteur propre associé à la plus faible valeur) ou en intervertissant deux colonnes (vecteurs propres).
- Certaines méthodes de décomposition en valeurs propres (par exemple par rotation de Givens) ou de décomposition en valeurs singulières peuvent conduire à des matrices de transformation qui sont intrinsèquement des matrices de rotation (avec un déterminant à +1) ; dans ce cas, l'étape de vérification que le déterminant est +1 sera optionnelle.
- Le bloc 430 convertit la matrice de rotation en paramètres. Dans le mode de réalisation privilégié, on utilise une représentation angulaire pour la quantification (6 angles d'Euler généralisés pour le cas 4D, 3 angles d'Euler pour le cas 3D, et un angle en 2D). Pour le cas ambisonique (quatre canaux) on obtient six angles d'Euler généralisés selon la méthode décrite dans l'article « Generalization of Euler Angles to N-Dimensional Orthogonal Matrices » de David K. Hoffman, Richard C. Raffenetti, and Klaus Ruedenberg, paru dans Journal of Mathematical Physics 13, 528 (1972); pour le cas de l'ambisonique planaire (trois canaux) on obtient trois angles d'Euler et pour le cas stéréo on obtient un angle de rotation selon les méthodes bien connues de l'état de l'art. Les valeurs des angles sont quantifiées dans le bloc 440 avec budget prédéterminé de bits. Dans le mode de réalisation privilégié une quantification scalaire est utilisée et le pas de quantification est par exemple identique pour chaque angle. Par exemple dans le cas de 4 canaux, on code 6 angles d'Euler généralisés avec 3x(8+9)=51 bits (3 angles définis sur un intervalle de [-π/2, π/2] codés sur 8 bits avec un pas de π/256 et les 3 autres angles définis sur un intervalle de [-π, π] codés sur 9 bits avec un pas de π/256). Les indices de quantification de la matrice de transformation sont envoyés au multiplexeur (bloc 350). De plus, le bloc 440 pourra convertir les paramètres quantifiés en une matrice de rotation quantifiée V̂t, si les paramètres utilisés pour la quantification ne correspondent pas aux paramètres utilisés pour l'interpolation.
- En variante, les blocs 430 et 440 peuvent être remplacés comme suit :
- Le bloc 430 peut effectuer une conversion des matrices de rotations en un double quaternion unitaire (cas de 4 canaux), en quaternion unitaire (cas de 3 canaux) et en un angle (cas de 2 canaux).
-
-
- La conversion en quaternion pour le cas 3D peut être réalisée comme suit pour une matrice R[i,j] i,j=0...2 de taille 3x3:
Calcul de la matrice associée simplifiée :q[0]=(R[0,0]+R[1,1]+R[2,2]+1)^2 + (R[2,1]-R[1,2])^2 + (R[0,2]-R[2,0])^2 + (R[1,0]- R[0,1])^2 q[1]=(R[2,1]-R[1,2])^2 + (R[0,0]-R[1,1]-R[2,2]+1)^2 + (R[1,0]+R[0,1])^2 + (R[2,0]+R[0,2])^2 q[2]=(R[0,2]-R[2,0])^2 + (R[1,0]+R[0,1])^2 + (R[1,1]-R[0,0]-R[2,2]+1)^2 + (R[2,1]+R[1,2])^2 q[3]=(R[1,0]-R[0,1])^2 + (R[2,0]+R[0,2])^2 + (R[2,1]+R[1,2])^2 + (R[2,2]-R[0,0]- R[1,1]+1)^2 -
- Le calcul de l'angle pour le cas d'une matrice 2x2 se fait selon les méthodes de l'état de l'art déjà connue.
- Dans des variantes on pourra convertir les quaternions unitaires q1, q2 (cas 4D) et q (cas 3D) en des représentations axe-angle connues de l'état de l'art.
- Le bloc 440 peut réaliser une quantification dans le domaine indiqué :
- * Cas de 4 canaux : la paire de quaternions unitaires q 1 et q 2 est quantifiée par un dictionnaire de quantification sphérique en dimension 4 ; par convention on quantifie q 1 avec un dictionnaire hémisphérique (car q1 et -q 1 correspondent à une même rotation 3D) et q 2 est quantifié avec un dictionnaire sphérique. Des exemples de dictionnaires peuvent être donnés par des points prédéfinis à partir de polyèdres de dimension 4 ; dans des variantes on pourra quantifier une double représentation axe-angle associés qui serait équivalente au double quaternion ;
- * Cas de 3 canaux : le quaternion unitaire est quantifié par un dictionnaire de quantification sphérique en dimension 4 - des exemples de dictionnaires peuvent être donnés par des points prédéfinis à partir de polyèdres de dimension 4 ;
- * Cas de 2 canaux : l'angle est quantifié par quantification scalaire uniforme.
- On décrit maintenant le bloc 460 d'interpolation des matrices de rotation entre deux trames successives. Il permet de lisser les discontinuités des canaux après l'application de ces matrices. Typiquement, si deux jeux d'angles ou de quaternions sont trop différents d'une trame précédente t-1 à la suivante t, des clics audibles sont à craindre s'il n'a pas été pratiqué entre ces deux trames une transition lissée dans des sous-trames entre ces deux trames. On réalise alors une interpolation de passage entre la matrice de rotation calculée pour la trame t-1 et la matrice de rotation calculée pour la trame t. Le codeur interpole dans le bloc 460 la représentation (quantifiée) de la rotation entre la trame courante et de la trame précédente pour éviter des fluctuations trop rapides des différents canaux après transformation. Le nombre d'interpolations peut être fixe (égal à une valeur prédéterminée) ou adaptatif. Chaque trame est alors divisée en sous-trames en fonction du nombre d'interpolations déterminé dans le bloc 450. Ainsi, si une interpolation adaptative est utilisée, le bloc 450 peut coder sur un nombre de bits choisi le nombre d'interpolations à effectuer, et donc le nombre de sous-trames à prévoir, dans le cas où ce nombre est déterminé de façon adaptative ; dans le cas d'une interpolation fixe, aucune information n'est à coder.
- Ensuite, le bloc 460 convertit les matrices de rotation dans un domaine spécifique représentant une matrice de rotations. La trame est découpée en sous-trames, et dans le domaine choisi l'interpolation est effectuée pour chaque sous-trame.
- Pour un signal d'entrée ambisonique d'ordre 1 (à 4 canaux W, X, Y, Z), dans le bloc 460, le codeur reconstruit à partir des 6 angles d'Euler quantifiés une matrice de rotation 4D quantifiée et celle-ci est ensuite convertie en deux quaternions unitaires à des fins d'interpolation. Dans une variante où l'entrée du codeur est un signal ambisonique planaire (3 canaux W, X, Y), dans le bloc 460 le codeur reconstruit à partir des 3 angles d'Euler quantifiés une matrice de rotation 3D quantifiée et celle-ci est ensuite convertie en un quaternion unitaire à des fins d'interpolation. Dans une variante où l'entrée du codeur est un signal stéréo, le codeur utilise dans le bloc 460 la représentation de la rotation 2D quantifiée avec un angle de rotation.
- Dans le mode de réalisation avec 4 canaux, pour l'interpolation de la matrice de rotation entre la trame t et la trame t - 1, la matrice de rotation calculée pour la trame t est factorisée en 2 quaternions (un double quaternion) grâce a la factorisation de Cayley et on utilise le double quaternion mémorisé pour la trame précédente t-1 et noté (Q L,t-1 , Q R,t-1).
- Pour chaque sous-trame, on interpole dans chaque sous-trame les quaternions deux à deux.
- Pour le quaternion gauche (QL,t ), le bloc détermine le plus court chemin entre les deux possible (QL,t ou -QL,t ). Selon les cas, on inverse le signe du quaternion de la trame courante. Puis l'interpolation est calculée pour le quaternion gauche avec l'interpolation sphérique linéaire (SLERP) :
où α correspond au facteur d'interpolation (α=1/K, 2/K, ... 1) et Ω L = arccos(Q L,t-1 · QL,t ) - Pour le quaternion droit (QR,t ), s'il y a eu une inversion pour le quaternion gauche alors il faut respecter la parité et forcer le signe du quaternion droit. Cette contrainte de signe est appelée ci-après « contrainte de plus court chemin conjoint ». Puis l'interpolation est calculée de manière similaire au quaternion gauche :
où α correspond au facteur d'interpolation (α=1/K, 2/K, ... 1) et ΩR = arccos(Q R,t-1 · QR,t ) - Une fois l'interpolation calculée pour les deux quaternions, on calcule la matrice de rotation de dimension 4x4 (respectivement 3x3 pour l'ambisonique planaire ou 2x2 pour le cas stéréo).
- Cette conversion en matrice de rotation peut être effectuée selon les pseudo-codes suivants : Cas 4D : pour un double quaternion
- Comme décrit précédemment on calcule les matrices de quaternion et antiquaternion et on calcule le produit matriciel.
-
- Enfin, les matrices
(ou leurs transposées) calculées par sous-trame dans le bloc 460 d'interpolation sont ensuite utilisées dans le bloc 470 de transformation qui produit n canaux transformés par application des matrices de rotation ainsi trouvées, aux canaux ambisoniques qui ont été prétraités par le bloc 300. - On revient ci-après sur le nombre K de sous-trames à déterminer dans le bloc 450 pour le cas où ce nombre est adaptatif. Il est mesuré l'écart final entre la trame courante et la trame précédente ou directement à partir de la différence angulaire des paramètres décrivant la matrice de rotation. On cherche dans ce dernier cas à faire en sorte que la variation angulaire entre sous-trames successives ne soit pas perceptible. La réalisation d'un nombre de sous-trames adaptatif est surtout avantageuse pour réduire la complexité moyenne du codée mais s'il est choisi de réduire la complexité on peut préférer utiliser une interpolation avec un nombre fixe de sous-trames.
- L'écart final entre la matrice de rotation corrigée de la trame t et la matrice de rotation de la trame t - 1 donne une mesure de l'importance de la différence de matriçage des canaux entre les deux trames. Plus cet écart est important et plus le nombre de sous-trames pour l'interpolation faite dans le bloc 460 est élevé. On utilise la somme de la valeur absolue de la matrice d'inter-corrélation entre la matrice de transformation de la trame courante et la trame précédente, comme suit, pour mesurer cet écart :
où In est la matrice identité, Vt les vecteurs propres à la trame d'indice t, et || M || est une norme de la matrice M qui correspond ici à la somme des valeurs absolues de tous les coefficients. D'autres normes matricielles peuvent être utilisées (par exemple la norme de Frobenius). - Dans le cas où les deux matrices sont identiques alors cet écart est égal à 0. Plus les matrices sont dissimilaires, plus la valeur de l'écart δt est élevée. Des seuils prédéterminés peuvent être appliqués à δt, à chaque seuil est associé un nombre prédéfini d'interpolations par exemple selon la logique de décision suivante :
- Seuils : {4.0, 5.0, 6.0, 7.0}
- Nombre K des sous-trames pour interpolation : {10, 48, 96, 192}
- Ainsi seuls deux bits peuvent suffire à coder les quatre valeurs possibles donnant le nombre de subdivisions (sous-trames).
- Le nombre K d'interpolations déterminé par le bloc 450 est ensuite envoyé au module d'interpolation 460 et dans le cas adaptatif le nombre de sous-trames est codé sous la forme d'un indice binaire qui est envoyé au multiplexeur (bloc 350).
- La réalisation de l'interpolation permet d'appliquer in fine une optimisation de la décorrélation des canaux d'entrée avant codage multi-mono. En effet, les matrices de rotation calculées respectivement pour une trame précédente t-1 et une trame courante t peuvent être très différentes du fait de cette recherche de décorrélation, mais l'interpolation permet néanmoins de lisser cette différence.
- L'interpolation utilisée nécessite un coût de calcul limité pour le codeur et le décodeur puisqu'elle est réalisée dans un domaine spécifique (angle en 2D, quaternion en 3D, double quaternion en 4D). Cette approche est plus avantageuse que d'interpoler des matrices de covariance calculées pour l'analyse PCA/KLT et de répéter plusieurs fois par trame une décomposition en valeurs propres type EVD (pour « EigenValue Décomposition »).
- Le bloc 470 effectue ensuite le matriçage des canaux ambisoniques par sous-trame à l'aide des matrices de transformation calculées dans le bloc 460. Ce matriçage revient à calculer par sous-trame
, où X(α) correspond aux sous-blocs de taille n x (L/K) pour α=1/K, 2/K, ... 1. Le signal contenu dans ces canaux est ensuite envoyé au bloc 340 pour l'encodage multi-monos. - On se réfère maintenant à la
figure 5 pour décrire un décodeur dans un exemple de réalisation de l'invention. - Après démultiplexage du train binaire pour la trame courante t par le bloc 500, l'information d'allocation est décodée (bloc 510) ce qui permet de dé-multiplexer et de décoder (bloc 520) le(s) train(s) binaire(s) reçu(s) pour chacun des n canaux transformés.
- Le bloc 520 fait appel à plusieurs instances exécutées séparément du décodage coeur. Le décodage coeur peut être de type EVS éventuellement modifié pour améliorer ses performances. Selon une approche multi-mono, chaque canal est décodé séparément. Si le codage précédemment utilisé est un codage stéréo ou multicanal, l'approche multi-mono peut être remplacée par un multi-stéréo ou multicanal pour le décodage. Les canaux ainsi décodés sont envoyés au bloc 530 qui décode la matrice de rotation pour la trame courante et de façon optionnelle le nombre K de sous-trames à utiliser pour l'interpolation (si l'interpolation est adaptative). Pour chaque matrice, le bloc d'interpolation 460 découpe la trame en sous-trames dont le nombre K peut être lu dans le flux codé par le bloc 610 (
figure 6 ) et interpole les matrices de rotation, le but étant de retrouver - en l'absence d'erreurs de transmission - les mêmes matrices que dans le bloc 460 du codeur pour pouvoir inverser la transformation qui a été précédemment faite dans le bloc 470. -
- Le bloc 530 effectue globalement le décodage et de la synthèse PCA/KLT inverse qui a été effectué par le bloc 310 de la
figure 3 . Les indices de quantification des paramètres de quantification de la rotation dans la trame courante sont décodés dans le bloc 600. Une quantification scalaire peut être utilisée et le pas de quantification est identique pour chaque angle. Dans le cas adaptatif le nombre de sous-trames d'interpolation est décodé (bloc 610) pour retrouver le nombre K de sous-trames parmi l'ensemble {10, 48, 96, 192} ; dans des variantes où la longueur de trames L est différente, cet ensemble de valeurs pourra être adapté. L'interpolation du décodeur est identique à celle effectuée à l'encodeur (bloc 460). - Le bloc 620 effectue le matriçage inverse des canaux ambisoniques par sous-trame à l'aide des inverses (les transposées en pratique) des matrices de transformation calculées dans le bloc 460.
- Ainsi, l'invention utilise une toute autre approche que le codée MPEG-H à addition/recouvrement en se basant sur une représentation spécifique des matrices de transformation qui sont restreintes à des matrices de rotation d'une trame à l'autre, dans le domaine temporel, permettant notamment une interpolation des matrices de transformation, avec une mise en correspondance qui assure une cohérence en direction (y compris en prenant en compte le sens par le signe).
- L'approche générale de l'invention est un codage de sons ambisoniques dans le domaine temporel par PCA avec notamment des matrices de transformation PCA forcées à être des matrices de rotations et interpolées par sous-trames de façon optimisée (en particulier dans le domaine des quaternions/doubles quaternions) pour améliorer la qualité. Le pas d'interpolation est soit fixe, soit adaptatif en fonction d'un critère d'écart entre une matrice d'inter-corrélation et une matrice de référence (identité) ou entre matrices à interpoler. La quantification des matrices de rotation peut être mise en oeuvre dans le domaine des angles d'Euler généralisés. Cependant il peut être choisi préférentiellement de quantifier les matrices de dimension 3 et 4 dans le domaine des quaternions et doubles quaternions (respectivement), ce qui permet de rester dans le même domaine pour la quantification et l'interpolation.
- En outre, un alignement des vecteurs propres est utilisé pour éviter les problèmes de clics et d'inversion de canaux, d'une trame à l'autre.
- Bien entendu, la présente invention ne se limite pas aux formes de réalisation décrites ci-avant à titre d'exemple et s'étend à d'autres variantes.
- Ainsi, la description précédente a traité les cas de quatre canaux.
- Néanmoins, dans des variantes, on peut également coder un nombre de canaux supérieur à quatre. La mise en oeuvre reste identique (en termes de blocs fonctionnels) au cas n=4, mais l'interpolation par double quaternion est remplacée par la méthode générale ci-après.
-
-
- On notera également que cette variante pourrait aussi remplacer l'interpolation par double quaternion unitaire (cas 4D), quaternion unitaire (cas 3D) ou angle, cependant elle serait moins avantageuse car elle nécessiterait une étape de diagonalisation supplémentaire et des calculs de puissance, alors que le mode de réalisation décrit précédemment est plus efficace pour ces cas de 2, 3 ou 4 canaux.
Claims (15)
- Procédé de codage en compression de signaux sonores formant une succession dans le temps de trames (t-1, t) d'échantillons, dans chacun de N canaux en représentation ambisonique d'ordre supérieur à 0, le procédé comportant :- former, à partir des canaux pour une trame courante (t), une matrice de covariance entre canaux et rechercher des vecteurs propres de la matrice de covariance pour obtenir une matrice de vecteurs propres,- tester la matrice de vecteurs propres pour vérifier qu'elle représente une rotation dans un espace de dimension N et corriger sinon la matrice de vecteurs propres jusqu'à obtenir une matrice de rotation, pour la trame courante (t), et- appliquer ladite matrice de rotation aux signaux des N canaux avant un encodage desdits signaux,dans lequel le procédé comporte en outre :- comparer la matrice de vecteurs propres obtenue pour la trame courante (t) à une matrice de rotation obtenue pour une trame (t-1) précédant la trame courante (t), et- permuter des colonnes de la matrice de vecteurs propres de la trame courante (t) pour assurer une cohérence avec la matrice de rotation de la trame précédente (t-1).
- Procédé selon la revendication 1, comportant en outre une étape de quantification de la matrice de rotation (440), ladite matrice de rotation appliquée aux signaux des N canaux étant dans une représentation quantifiée.
- Procédé selon l'une des revendications précédentes, comportant en outre une étape de quantification de la matrice de rotation (440) et une étape d'interpolation de la matrice quantifiée (460), ladite matrice de rotation appliquée aux signaux des N canaux étant dans une représentation quantifiée et interpolée.
- Procédé selon la revendication 3, dans lequel l'interpolation s'effectue dans le domaine des quaternions.
- Procédé selon l'une des revendications précédentes, dans lequel ladite permutation des colonnes permet d'assurer une cohérence d'axes des vecteurs, et le procédé comporte en outre- vérifier, pour chaque vecteur propre de la trame courante (t), une cohérence de direction avec un vecteur-colonne de position correspondante de la matrice de rotation de la trame précédente (t-1), et- en cas d'incohérence, inverser le signe des éléments de ce vecteur propre dans la matrice de vecteurs propres de la trame courante (t).
- Procédé selon l'une des revendications précédentes, comportant en outre :- une estimation d'écart entre la matrice de rotation obtenue pour la trame courante (t) et une matrice de rotation obtenue pour une trame (t-1) précédant la trame courante,- en fonction de l'écart estimé, déterminer si au moins une interpolation est à opérer entre la matrice de rotation de la trame courante (t) et la matrice de rotation de la trame précédente (t-1).
- Procédé selon la revendication 6, dans lequel :- en fonction de l'écart estimé, il est déterminé un nombre d'interpolations à opérer entre la matrice de rotation de la trame courante (t) et la matrice de rotation de la trame précédente (t-1),- la trame courante est découpée en un nombre de sous-trames correspondant au nombre d'interpolations à opérer, et- au moins ce nombre d'interpolations est codé en vue d'une transmission via un réseau.
- Procédé selon l'une des revendications précédentes, dans lequel une permutation entre colonnes de la matrice de vecteurs propres inversant le signe d'un déterminant de la matrice de vecteurs propres et le déterminant d'une matrice de rotation étant égal à 1,
si le déterminant de la matrice de vecteurs propres est égal à -1, on inverse les signes des éléments d'une colonne choisie de la matrice de vecteurs propres, pour que le déterminant soit égal à 1 et former ainsi une matrice de rotation. - Procédé selon l'une des revendications précédentes, dans lequel la représentation ambisonique est d'ordre 1 et le nombre N de canaux est quatre, et dans lequel la matrice de rotation de la trame courante est représentée par deux quaternions.
- Procédé selon la revendication 9, prise en combinaison avec la revendication 8, dans lequel chaque interpolation pour une sous-trame courante est une interpolation sphérique linéaire (SLERP), menée en fonction de l'interpolation de la sous-trame précédant la sous-trame courante et à partir des quaternions de la sous-trame précédente.
- Procédé selon la revendication 10, dans lequel l'interpolation sphérique linéaire de la sous-trame courante est menée pour obtenir les quaternions de la sous-trame courante comme suit :
Où:Q L,t-1 est l'un des quaternions de la sous-trame précédente t-1,Q R,t-1 est l'autre des quaternions de la sous-trame précédente t-1,QL,t est l'un des quaternions de la sous-trame courante t,QR,t est l'autre des quaternions de la sous-trame courante t,Ω L = Arccos (Q L,t-1 · QL,t ) ; Ω R = Arccos (Q R,t-1 · QR,t )et α correspond à un facteur d'interpolation. - Procédé selon l'une des revendications précédentes, dans lequel la recherche des vecteurs propres est effectuée par analyse en composantes principales (PCA), ou par transformée de Karhunen Loeve (KLT), dans le domaine temporel.
- Procédé selon l'une des revendications précédentes, dans lequel une étape préalable de prévision de budget d'allocation de bits par canal ambisonique est mise en oeuvre et comporte :- pour chaque canal ambisonique, une estimation d'énergie acoustique courante dans le canal,- la sélection dans une mémoire d'un score prédéterminé, de qualité (MOS), fonction de ce canal ambisonique et d'un débit courant dans le réseau,- l'estimation d'une pondération à opérer pour l'allocation de bits à ce canal, par multiplication du score sélectionné à l'énergie estimée.
- Dispositif de codage comportant un circuit de traitement pour la mise en oeuvre du procédé selon l'une des revendications 1 à 13.
- Programme informatique comportant des instructions pour la mise en oeuvre du procédé selon l'une des revendications 1 à 13, lorsque lesdites instructions sont exécutées par un processeur d'un circuit de traitement.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP24203647.3A EP4498367A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP19305254.5A EP3706119A1 (fr) | 2019-03-05 | 2019-03-05 | Codage audio spatialisé avec interpolation et quantification de rotations |
| PCT/EP2020/053264 WO2020177981A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
Related Child Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP24203647.3A Division-Into EP4498367A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
| EP24203647.3A Division EP4498367A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| EP3935629A1 EP3935629A1 (fr) | 2022-01-12 |
| EP3935629B1 true EP3935629B1 (fr) | 2024-11-27 |
| EP3935629C0 EP3935629C0 (fr) | 2024-11-27 |
Family
ID=65991736
Family Applications (3)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP19305254.5A Withdrawn EP3706119A1 (fr) | 2019-03-05 | 2019-03-05 | Codage audio spatialisé avec interpolation et quantification de rotations |
| EP24203647.3A Pending EP4498367A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
| EP20703048.7A Active EP3935629B1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
Family Applications Before (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP19305254.5A Withdrawn EP3706119A1 (fr) | 2019-03-05 | 2019-03-05 | Codage audio spatialisé avec interpolation et quantification de rotations |
| EP24203647.3A Pending EP4498367A1 (fr) | 2019-03-05 | 2020-02-10 | Codage audio spatialisé avec interpolation et quantification de rotations |
Country Status (10)
| Country | Link |
|---|---|
| US (1) | US11922959B2 (fr) |
| EP (3) | EP3706119A1 (fr) |
| JP (2) | JP7419388B2 (fr) |
| KR (1) | KR20210137114A (fr) |
| CN (2) | CN113728382B (fr) |
| BR (1) | BR112021017511A2 (fr) |
| ES (1) | ES3012112T3 (fr) |
| PL (1) | PL3935629T3 (fr) |
| WO (1) | WO2020177981A1 (fr) |
| ZA (1) | ZA202106465B (fr) |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3706119A1 (fr) * | 2019-03-05 | 2020-09-09 | Orange | Codage audio spatialisé avec interpolation et quantification de rotations |
| GB2615236A (en) * | 2020-09-25 | 2023-08-02 | Apple Inc | Higher order ambisonics encoding and decoding |
| WO2022120011A1 (fr) * | 2020-12-02 | 2022-06-09 | Dolby Laboratories Licensing Corporation | Rotation de composantes sonores pour schémas de codage dépendant de l'orientation |
| FR3118266A1 (fr) | 2020-12-22 | 2022-06-24 | Orange | Codage optimisé de matrices de rotations pour le codage d’un signal audio multicanal |
| EP4089551A1 (fr) * | 2021-05-11 | 2022-11-16 | Siemens Industry Software NV | Procédé mis en uvre par ordinateur permettant de déterminer une fonction de transfert d'un module ou d'un composant et génération d'un tel composant |
| CN115938388A (zh) * | 2021-05-31 | 2023-04-07 | 华为技术有限公司 | 一种三维音频信号的处理方法和装置 |
| CN115497485B (zh) * | 2021-06-18 | 2024-10-18 | 华为技术有限公司 | 三维音频信号编码方法、装置、编码器和系统 |
| EP4120255A1 (fr) | 2021-07-15 | 2023-01-18 | Orange | Quantification vectorielle spherique optimisee |
| FR3136099A1 (fr) | 2022-05-30 | 2023-12-01 | Orange | Codage audio spatialisé avec adaptation d’un traitement de décorrélation |
| KR102894176B1 (ko) * | 2022-12-01 | 2025-12-01 | 백재호 | 보안 통신을 수행하는 시스템 |
| EP4738348A4 (fr) * | 2023-06-30 | 2026-05-06 | Beijing Xiaomi Mobile Software Co Ltd | Procédé et appareil de traitement de données audio, puce et dispositif électronique |
| CN119986659B (zh) * | 2025-04-17 | 2025-09-16 | 南京理工大学 | 基于简化排序特征值解析式的极化合成孔径雷达数据快速分解方法 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101802907B (zh) * | 2007-09-19 | 2013-11-13 | 爱立信电话股份有限公司 | 多信道音频的联合增强 |
| WO2011045548A1 (fr) * | 2009-10-15 | 2011-04-21 | France Telecom | Codage/decodage parametrique bas debit optimise |
| US20140355769A1 (en) * | 2013-05-29 | 2014-12-04 | Qualcomm Incorporated | Energy preservation for decomposed representations of a sound field |
| CN104282309A (zh) * | 2013-07-05 | 2015-01-14 | 杜比实验室特许公司 | 丢包掩蔽装置和方法以及音频处理系统 |
| EP3017446B1 (fr) * | 2013-07-05 | 2021-08-25 | Dolby International AB | Codage amélioré de champs acoustiques utilisant une génération paramétrée de composantes |
| EP3706119A1 (fr) * | 2019-03-05 | 2020-09-09 | Orange | Codage audio spatialisé avec interpolation et quantification de rotations |
-
2019
- 2019-03-05 EP EP19305254.5A patent/EP3706119A1/fr not_active Withdrawn
-
2020
- 2020-02-10 JP JP2021552656A patent/JP7419388B2/ja active Active
- 2020-02-10 WO PCT/EP2020/053264 patent/WO2020177981A1/fr not_active Ceased
- 2020-02-10 PL PL20703048.7T patent/PL3935629T3/pl unknown
- 2020-02-10 ES ES20703048T patent/ES3012112T3/es active Active
- 2020-02-10 KR KR1020217031995A patent/KR20210137114A/ko active Pending
- 2020-02-10 EP EP24203647.3A patent/EP4498367A1/fr active Pending
- 2020-02-10 BR BR112021017511A patent/BR112021017511A2/pt unknown
- 2020-02-10 US US17/436,390 patent/US11922959B2/en active Active
- 2020-02-10 EP EP20703048.7A patent/EP3935629B1/fr active Active
- 2020-02-10 CN CN202080031569.8A patent/CN113728382B/zh active Active
- 2020-02-10 CN CN202410956721.3A patent/CN118692474A/zh active Pending
-
2021
- 2021-09-03 ZA ZA2021/06465A patent/ZA202106465B/en unknown
-
2024
- 2024-01-09 JP JP2024001364A patent/JP7789811B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US11922959B2 (en) | 2024-03-05 |
| KR20210137114A (ko) | 2021-11-17 |
| CN113728382A (zh) | 2021-11-30 |
| ES3012112T3 (en) | 2025-04-08 |
| EP3706119A1 (fr) | 2020-09-09 |
| EP4498367A1 (fr) | 2025-01-29 |
| PL3935629T3 (pl) | 2025-03-31 |
| CN118692474A (zh) | 2024-09-24 |
| CN113728382B (zh) | 2024-08-09 |
| WO2020177981A1 (fr) | 2020-09-10 |
| JP7419388B2 (ja) | 2024-01-22 |
| JP2024024095A (ja) | 2024-02-21 |
| ZA202106465B (en) | 2022-07-27 |
| EP3935629C0 (fr) | 2024-11-27 |
| BR112021017511A2 (pt) | 2021-11-16 |
| JP2022523414A (ja) | 2022-04-22 |
| EP3935629A1 (fr) | 2022-01-12 |
| JP7789811B2 (ja) | 2025-12-22 |
| US20220148607A1 (en) | 2022-05-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3935629B1 (fr) | Codage audio spatialisé avec interpolation et quantification de rotations | |
| EP2374123B1 (fr) | Codage perfectionne de signaux audionumeriques multicanaux | |
| EP2002424B1 (fr) | Dispositif et procede de codage scalable d'un signal audio multi-canal selon une analyse en composante principale | |
| EP2374124B1 (fr) | Codage perfectionne de signaux audionumériques multicanaux | |
| EP1600042B1 (fr) | Procede de traitement de donnees sonores compressees, pour spatialisation | |
| EP2005420B1 (fr) | Dispositif et procede de codage par analyse en composante principale d'un signal audio multi-canal | |
| EP3427260B1 (fr) | Codage et décodage optimisé d'informations de spatialisation pour le codage et le décodage paramétrique d'un signal audio multicanal | |
| EP2304721B1 (fr) | Synthese spatiale de signaux audio multicanaux | |
| EP2168121B1 (fr) | Quantification apres transformation lineaire combinant les signaux audio d'une scene sonore, codeur associe | |
| FR2973551A1 (fr) | Allocation par sous-bandes de bits de quantification de parametres d'information spatiale pour un codage parametrique | |
| EP4042418B1 (fr) | Détermination de corrections à appliquer a un signal audio multicanal, codage et décodage associés | |
| Mahé et al. | First-order ambisonic coding with quaternion-based interpolation of PCA rotation matrices | |
| EP4172986B1 (fr) | Codage optimisé d'une information représentative d'une image spatiale d'un signal audio multicanal | |
| EP2198425A1 (fr) | Procede, module et programme d'ordinateur avec quantification en fonction des vecteurs de gerzon | |
| EP4268374B1 (fr) | Codage optimise de matrices de rotations pour le codage d'un signal audio multicanal | |
| WO2023232823A1 (fr) | Titre: codage audio spatialisé avec adaptation d'un traitement de décorrélation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: UNKNOWN |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE |
|
| PUAI | Public reference made under article 153(3) epc to a published international application that has entered the european phase |
Free format text: ORIGINAL CODE: 0009012 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE |
|
| 17P | Request for examination filed |
Effective date: 20210907 |
|
| AK | Designated contracting states |
Kind code of ref document: A1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR |
|
| DAV | Request for validation of the european patent (deleted) | ||
| DAX | Request for extension of the european patent (deleted) | ||
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: EXAMINATION IS IN PROGRESS |
|
| 17Q | First examination report despatched |
Effective date: 20230927 |
|
| RAP3 | Party data changed (applicant data changed or rights of an application transferred) |
Owner name: ORANGE |
|
| GRAP | Despatch of communication of intention to grant a patent |
Free format text: ORIGINAL CODE: EPIDOSNIGR1 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: GRANT OF PATENT IS INTENDED |
|
| INTG | Intention to grant announced |
Effective date: 20240627 |
|
| GRAS | Grant fee paid |
Free format text: ORIGINAL CODE: EPIDOSNIGR3 |
|
| GRAA | (expected) grant |
Free format text: ORIGINAL CODE: 0009210 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE PATENT HAS BEEN GRANTED |
|
| AK | Designated contracting states |
Kind code of ref document: B1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR |
|
| REG | Reference to a national code |
Ref country code: GB Ref legal event code: FG4D Free format text: NOT ENGLISH |
|
| REG | Reference to a national code |
Ref country code: CH Ref legal event code: EP |
|
| REG | Reference to a national code |
Ref country code: IE Ref legal event code: FG4D Free format text: LANGUAGE OF EP DOCUMENT: FRENCH |
|
| REG | Reference to a national code |
Ref country code: DE Ref legal event code: R096 Ref document number: 602020041995 Country of ref document: DE |
|
| U01 | Request for unitary effect filed |
Effective date: 20241212 |
|
| U07 | Unitary effect registered |
Designated state(s): AT BE BG DE DK EE FI FR IT LT LU LV MT NL PT RO SE SI Effective date: 20241220 |
|
| U20 | Renewal fee for the european patent with unitary effect paid |
Year of fee payment: 6 Effective date: 20250121 |
|
| REG | Reference to a national code |
Ref country code: ES Ref legal event code: FG2A Ref document number: 3012112 Country of ref document: ES Kind code of ref document: T3 Effective date: 20250408 |
|
| PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: HR Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20241127 Ref country code: IS Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20250327 |
|
| PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: NO Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20250227 |
|
| PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: RS Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20250227 |
|
| REG | Reference to a national code |
Ref country code: GR Ref legal event code: EP Ref document number: 20250400425 Country of ref document: GR Effective date: 20250409 |
|
| PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: SM Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20241127 |
|
| PG25 | Lapsed in a contracting state [announced via postgrant information from national office to epo] |
Ref country code: SK Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT Effective date: 20241127 |
|
| PLBE | No opposition filed within time limit |
Free format text: ORIGINAL CODE: 0009261 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT |
|
| REG | Reference to a national code |
Ref country code: CH Ref legal event code: L10 Free format text: ST27 STATUS EVENT CODE: U-0-0-L10-L00 (AS PROVIDED BY THE NATIONAL OFFICE) Effective date: 20251008 |
|
| 26N | No opposition filed |
Effective date: 20250828 |
|
| U1N | Appointed representative for the unitary patent procedure changed after the registration of the unitary effect |
Representative=s name: KILBURN & STRODE LLP; GB |
|
| U20 | Renewal fee for the european patent with unitary effect paid |
Year of fee payment: 7 Effective date: 20260121 |
|
| REG | Reference to a national code |
Ref country code: CH Ref legal event code: U11 Free format text: ST27 STATUS EVENT CODE: U-0-0-U10-U11 (AS PROVIDED BY THE NATIONAL OFFICE) Effective date: 20260301 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: GB Payment date: 20260122 Year of fee payment: 7 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: MC Payment date: 20260128 Year of fee payment: 7 Ref country code: ES Payment date: 20260302 Year of fee payment: 7 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: IE Payment date: 20260123 Year of fee payment: 7 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: TR Payment date: 20260127 Year of fee payment: 7 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: CH Payment date: 20260301 Year of fee payment: 7 Ref country code: CZ Payment date: 20260130 Year of fee payment: 7 |
|
| PGFP | Annual fee paid to national office [announced via postgrant information from national office to epo] |
Ref country code: GR Payment date: 20260123 Year of fee payment: 7 Ref country code: PL Payment date: 20260126 Year of fee payment: 7 |













