\section{Wearable Haptics for the Hand}
\label{wearable_haptics_hand}

To understand how wearable haptics have been used to render haptic properties of virtual objects and haptic augmentations to tangible objects, we first need to briefly describe how the hand senses and acts on its environment.


\subsection{The Haptic Sense}
\label{haptic_sense}

The haptic sense has specific characteristics that make it unique in regard to other senses.
%
It enables us to perceive a large diversity of properties in the surrounding objects, through to a complex combination of sensations produced by numerous sensory receptors distributed throughout the body.
%
But it also allows us to act on these objects, to come into contact with them, to grasp them, to manipulate them and to actively explore them.
%
This implies that the haptic perception is localised at the points of contact between the body and the environment, \ie we cannot haptically perceive an object without actively touching it.
%
These two mechanisms, \emph{perception and action}, are therefore closely associated and both essential to form the haptic experience of interacting with the environment~\cite{lederman2009haptic}.

% passive and active touch
% hand mechanics and anatomy
% exploratory procedures
% grasp types


\subsubsection{Haptic Perception}
\label{haptic_perception}

Perceiving the properties of an object involves numerous sensory receptors embedded in the skin, but also in the muscles and joints of the hand, and distributed across the body. They are divided into two main modalities: \emph{cutaneous and kinesthetic}.

\paragraph{Cutaneous Sensitivity}

Cutaneous haptic receptors are specialised nerve endings implanted in the skin that respond differently to the various stimuli applied to the skin. \figref{blausen2014medical_skin} shows the location in the skin of the four main cutaneous receptors that respond to mechanical deformation of the skin.

Adaptation rate and receptor size are the two key characteristics that respectively determine the temporal and spatial resolution of these mechanoreceptors, as summarized in \tabref{cutaneous_receptors}.
%
The \emph{adaptation rate} is the speed and duration of the response to a stimulus.
%
Meissner and Pacinian receptors, known as fast-adapting (FA), respond rapidly to a stimulus but stop quickly even though the stimulus is still present, allowing the detection of high-frequency changes.
%
In contrast, Merkel and Ruffini receptors, known as slow-adapting (SA), have a slower but continuous response to a static, prolonged stimulus.
%
The \emph{size of the receptor} determines the area of skin that can be sensed by a single nerve ending.
%
Meissner and Merkel receptors have a small detection area (named Type I) and are sensitive to fine skin deformations, while Ruffini and Pacinian receptors have a larger detection area (named Type II).

\fig[0.6]{blausen2014medical_skin}{Schema of cutaneous mechanoreceptors in a section of the skin~\cite{blausen2014medical}.}

The density of mechanoreceptors varies according to skin type and body region.
%
\emph{Glabrous skin}, especially on the face, feet, hands, and more importantly, the fingers, is particularly rich in cutaneous receptors, giving these regions great tactile sensitivity.
%
The density of the Meissner and Merkel receptors, which are the most sensitive, is notably high in the fingertips~\cite{johansson2009coding}.
%
Conversely, \emph{hairy skin} is less sensitive and does not contain Meissner receptors, but has additional receptors at the base of the hairs, as well as receptors known as C-tactile, which are involved in pleasantness and affective touch~\cite{ackerley2014touch}.

There are also two types of thermal receptors implanted in the skin, which respond to increases or decreases in skin temperature, respectively, providing sensations of warmth or cold~\cite{lederman2009haptic}.
%
Finally, free nerve endings (without specialized receptors) provide information about pain~\cite{mcglone2007discriminative}.

\begin{tab}{cutaneous_receptors}{Characteristics of the cutaneous mechanoreceptors.}[
        Adaptation rate is the speed and duration of the receptor's response to a stimulus. Receptive size is the area of skin detectable by a single receptor. Sensitivities are the stimuli detected by the receptor. Adapted from \textcite{mcglone2007discriminative} and \textcite{johansson2009coding}.
    ]
    \begin{tabularx}{\linewidth}{p{1.7cm} p{2cm} p{2cm} X}
        \toprule
        \textbf{Receptor} & \textbf{Adaptation Rate} & \textbf{Receptive Size} & \textbf{Sensitivities}                                                          \\
        \midrule
        Meissner          & Fast                     & Small                   & Discontinuities (\eg edges), medium-frequency vibration (\qtyrange{5}{50}{\Hz}) \\
        Merkel            & Slow                     & Small                   & Pressure, low-frequency vibration (\qtyrange{0}{5}{\Hz})                        \\
        Pacinian          & Fast                     & Large                   & High-frequency vibration (\qtyrange{40}{400}{\Hz})                              \\
        Ruffini           & Slow                     & Large                   & Skin stretch                                                                    \\
        \bottomrule
    \end{tabularx}
\end{tab}

\paragraph{Kinesthetic Sensitivity}

Kinesthetic receptors are also mechanoreceptors but are located in the muscles, tendons and joints~\cite{jones2006human}.
Les fuseaux musculaires, situés dans les muscles, répondent à la longueur des muscles, à la vitesse de l'étirement et à la contraction musculaire.
Les organes tendineux de Golgi, situés à la jonction entre les muscles et les tendons, répondent à la force développée par les muscles.
Enfin, des récepteurs de Ruffini et de Pacini sont présent dans les articulations et répondent au mouvement articulaire.
Ces trois types de récepteurs donnent donc, ensemble, un retour sensoriel sur le déplacement, la vitesse et la force des muscles ainsi que la rotation des articulations lors d'un mouvement.
Ils permettent donc également de sentir les forces et les couples extérieurs appliqués sur le corps.

Les récepteurs kinesthésiques sont donc fortement liés au contrôle moteur du corps.
En fournissant un retour sensoriel en réponse à la position et aux mouvements des membres, ils permettent une perception de notre corps dans l'espace, appelée \emph{proprioception}.
Ainsi, même les yeux fermés, nous sommes capable de planifier et effectuer des mouvements précis pour toucher ou saisir une cible.
Cependant, les mecanorécepteurs cutanées sont partie intégrante de cette perception, car tout mouvement du corps ainsi que les contacts avec l'environment déforme nécessairement la peau~\cite{johansson2009coding}.


\subsubsection{Hand-Object Interactions}
\label{hand_object_interactions}

La perception haptique est donc complexe, riche et construite à partir des multiples récepteurs sensoriels d'entrée cutanées et kinesthésiques.
Particulièrement présents dans la main, ils lui donne une grande sensibilité haptique mais aussi une grande dextérité dans ses mouvements.
En effet, en fournissant un retour sensoriel en réponse aux mouvements de la main et des doigts, cela forme une \emph{boucle sensorimotrice} qui permet d'ajuster les mouvements en fonction des sensations.

\paragraph{Sensorimotor Continuum of the Hand}

La contribution de ces deux types de sensations varie cependant selon les mouvements demandés par l'activité qu'effectue la main.
\textcite{jones2006human} ont proposé ainsi un continuum sensorimoteur des fonctions de la main, allant d'activités principalement sensorielles à des activités avec une composante motrice plus importante.
Comme illustré sur la \figref{sensorimotor_continuum}, \textcite{jones2006human} proposent de délimiter quatre catégories de fonctions de la main sur ce continuum:
%
\begin{itemize}
    \item La \emph{détection tactile} est la capacité de la main à percevoir un objet avec qui elle est en contact statique à partir des sensations cutanées. L'objet peut cependant être en mouvement, mais la main reste immobile. Aussi appelé \emph{toucher passif}, cela permet une assez bonne perception de la surface, par exemple \textcite{gunther2022smooth}.
    \item La \emph{détection haptique active} est l'exploration manuelle et volontaire d'un objet avec la main, impliquant l'ensemble des sensations cutanées et kinesthésiques. Cela permet une perception plus précise que le toucher passif~\cite{lederman2009haptic}.
    \item La \emph{préhension} est l'action de saisir un objet avec la main, et de le maintenir. Cela implique une coordination fine entre les mouvements de la main et des doigt avec les sensations haptiques en retour.
    \item Les \emph{gestes}, appelé non-prehensible skilled movements par \textcite{jones2006human}, sont des activités essentiellement motrices et sans contact continu avec un objet. Ce sont par exemple pointer une cible, frapper un clavier, accompagner un discours de gestes ou signer en langue des signes~\cite{yoon2020evaluating}
\end{itemize}

\fig[0.6]{sensorimotor_continuum}{The sensorimotor continuum of the hand function proposed by and adapted from \textcite{jones2006human}. Functions of the hand are classified into four categories based on the relative importance of sensory and motor components.}

L'ensemble des interactions possible de la main avec un objet est vaste et varié, \textcite{bullock2013handcentric} ont proposé une classification plus détaillée en 15 catégories.
%
Dans cette thèse, nous nous intéressons aux détections haptiques actives (\ie à l'exploration) d'augmentations visuo-haptiques (voir \partref{perception}) et à la préhension d'objets virtuels (voir \partref{manipulation}) dans le contexte de la RA et des wearable haptics.

\paragraph{Hand Anatomy and Motion}

Avant de comprendre comment la main est utilisée pour l'exploration et la préhension d'objets, il faut décrire brièvement son anatomie. En effet, sous la peau, la mise en action des muscles et des tendons est possible car ils prennent appuis sur les os.

Comme illustré sur la \figref{blausen2014medical_hand}, le squelette de la main est composée de 27 os articulés. Le poignet, constitué de 8 os carpiens, relie la main au bras, et est à la base des 5 os métacarpiens de la paume, un pour chaque doigt.
Chaque doigt est composé d'une chaîne de 3 phalanges, proximale, moyenne et distale, à l'exception du pouce qui n'a que deux phalanges proximale et distale.
Les articulations à la base de chaque phalange permettent des mouvements de flexions et extensions, i.e. des mouvements de pliage et de dépliage, par rapport à l'os précédent.
Les phalanges proximales peuvent également effectuer des mouvements d'adduction et d'abduction, i.e. des mouvements de rapprochement et d'éloignement des doigts.
Enfin, la métacarpe du pouce est capable de mouvements de flexion/extension et d'adduction/abduction, ce qui permet au pouce de venir s'opposer aux autres doigts.
Ces axes de mouvements sont appelés degrés de libertés et peuvent être représentés par un \emph{modèle kinématique} de la main à 27 DDL comme illustrés sur la \figref{blausen2014medical_hand}.
Ainsi, le pouce a 5 DDL, chaque des quatre autres doigts a 4 DDL, et le poignet 6 DDL en pouvant prendre n'importe quelle position (3 DDL) ou orientation (3 DDL) dans l'espace~\cite{erol2007visionbased}.

Cette structure complexe permet à la main de nombreux mouvements et gestes. Cependant la façon dont nous explorons et saisissons les objets suit des modèles plus simples, qui dépendent de l'objet touché et de l'objectif de l'interaction.

\begin{subfigs}{hand}{Anatomy and motion of the hand. }[
        \item Schema of the hand skeleton. Adapted from \textcite{blausen2014medical}.
        \item Kinematic model of the hand with 27 degrees of freedom~\cite{erol2007visionbased}.
    ]
    \subfigsheight{6cm}
    \subfig{blausen2014medical_hand}
    \subfig{kinematic_hand_model}
\end{subfigs}

\paragraph{Exploratory Procedures}

L'exploration d'un objet par la main suit des modèles de mouvements stéréotypés, appelés procédures exploratoires~\cite{lederman1987hand}.
Comme illustré sur la \figref{exploratory_procedures}, selon la propriété de l'objet explorée (décrites \secref{object_properties}), va être associé un mouvement spécifique et optimal de la main pour acquérir les information sensorielles les plus pertinentes pour cette propriété.
Par exemple, réaliser un \emph{mouvement latéral} des doigts sur la surface pour identifier sa texture, une \emph{pression} avec doigt pour percevoir sa rigidité, ou \emph{suivre les contours} de l'objet pour connaitre sa forme précise.
Ces trois procédures impliquent seulement les bouts des doigts et, en particulier, l'index~\cite{gonzalez2014analysis}.
L'ensemble de la main est utilisée pour les autres procédures: par exemple, en approchant voire posant la paume pour sentir la température de la surface (\emph{static contact}), ou en prenant l'objet dans la main pour estimer son poids (\emph{unsupported holding}).
L'\emph{enclosure}, en fermant la main sur l'objet, permet d'evaluer sa forme globale et sa taille.

\fig{exploratory_procedures}{Exploratory procedures and their associated object properties (in parentheses). Adapted from \textcite{lederman2009haptic}.}

Le sens haptique seul (sans la vision) nous permet ainsi de reconnaitre les objets familiers avec une grande précision.
La reconnaissance des propriété matérielles, \ie la surface et sa texture, rigidité et température est meilleure qu'avec le sens visuel seul.
Mais la reconnaissance des propriétés spatiales, la forme et la taille de l'objet, est moins bonne avec l'haptique qu'avec la vision~\cite{lederman2009haptic}.
Quelques secondes (\qtyrange{2}{3}{\s}) suffisent pour effectuer ces procédures, à l'exception du suivi de contour qui peut prendre une dizaine de secondes~\cite{jones2006human}.

\paragraph{Grasp Types}

La préhension d'un objet par la main est possible car celle-ci peut prendre de nombreuses postures grâce aux degrés de liberté de son squelette.
En venant opposer le pouce ou la paume aux autres doigts (pad or palm grasps), ou encore les doigts entre eux comme pour tenir une cigarette (side grasp), la main peut tenir en sécurité l'objet~\cite{iberall1997human}.
La préhension varie donc selon la forme de l'objet et la tâche a réaliser, par exemple saisir un stylo du bout des doigts puis le tenir pour écrire avec ou bien prendre une tasse par le corps pour la remplir et par l'anse pour la boire~\cite{cutkosky1986modeling}.
Trois types de préhensions sont distingués selon leur degré de force et de précision: Dans les préhensions de force, l'objet est tenu fermement et suit les mouvements de la main de façon rigide, tandis que dans les préhensions de précision, les doigts peuvent bouger l'objet à l'intérieur de la main mais sans bouger le bras. Les préhensions mixtes combinent force et précision en proportions égales~\cite{feix2016grasp}.

Indépendamment de l'objet et de la tâche, le nombre de types de préhension peut être réduit à 34 types et classifié comme la taxonomie sur la \figref{gonzalez2014analysis}~\cite{gonzalez2014analysis}.
Une taxonomie plus complète a ensuite été proposée par \textcite{feix2016grasp}.
Avec des objets de la vie de tous les jours, ce nombre est même plus restreint, entre 5 et 10 types de préhension selon l'activité~\cite{bullock2013grasp}.
En outre, les bouts des doigts sont les zones de la main les plus impliquées, en terme de fréquence d'usage.
En particulier, le pouce est pratiquement toujours utilisé, ainsi que l'index et le majeur, mais les autres doigts sont moins sollicités~\cite{gonzalez2014analysis}.
Cela s'explique par la sensibilité des bouts des doigts (voir \secref{haptic_perception}) et par la plus grande facilité d'opposer le pouce à l'index et au majeur que les autres doigts.

\fig{gonzalez2014analysis}{Taxonomy of grap types of~\textcite{gonzalez2014analysis}, classified according to their type (power, precision or intermediate) and the shape of the grasped objet. Each grasp show the area of the palm and fingers in contact with the object and the grasp with an example of object.}


\subsubsection{Object Properties}
\label{object_properties}

Toucher activement un objet implique donc une action sensorimotrice de la main: Les mouvements exploratoires utilisés guident la recherche d'informations sensorielles et permettent de construire une perception haptique des propriétés de l'objet.
%
On distingue, d'une part, les \emph{propriétés matérielles}, qui sont la perception la rugosité, dureté, température et friction de la surface de l'objet~\cite{bergmanntiest2010tactual}.
%
D'autre part, les \emph{propriétés spatiales} sont la perception de la forme et de la taille de l'objet~\cite{lederman2009haptic}.

Chacune de ces propriétés est fortement liée à une caractéristique physique de l'objet, définie et mesurable, mais la perception peut différer de cette mesure physique, \eg \textcite{bergmanntiest2007haptic}.
%
La perception dépend aussi de nombreux autres facteurs, comme les mouvements effectués et le temps d'exploration, mais aussi de la personne, \eg sa sensibilité~\cite{hollins2000individual} ou son âge~\cite{jones2006human}, et du contexte de l'interaction~\cite{kahrimanovic2009context,kappers2013haptic}.
%
Ces propriétés sont décrites (et évaluées) avec des échelles opposant deux adjectifs comme "rugueux/lisse" ou "chaud/froid"~\cite{okamoto2013psychophysical}.

\paragraph{Roughness}

La rugosité (ou la smoothness) est la perception de la micro-géométrie d'une surface, \ie des aspérités à la surface avec des différences de hauteur de l'ordre du millimètre au micromètre~\cite{bergmanntiest2010tactual}.
C'est, par exemple, la perception de la fibre d'un tissu ou du bois et la texture du papier de verre ou d'une peinture.
La rugosité est donc ce qui caractérise principalement la perception de \emph{texture} de la surface avec, dans une moindre mesure, la dureté et la friction~\cite{hollins1993perceptual,bergmanntiest2006analysis}.

En touchant la surface, ces aspérités de surface provoquent sur la peau des pressions et des vibrations, impliquant respectivement les récepteurs de Merkel et Pacini~\cite{bensmaia2005pacinian}.
Si un toucher statique, où seul les indices de pression sont présent, permet de relativement bien percevoir la rugosité, c'est un mouvement latéral, intégrant les indices de vibrations, qui permet la meilleure précision.
En particulier, quand les aspérités sont plus petites que \qty{0.1}{mm}, par exemple comme les fibres du papier, seul le mouvement donc les vibrations permet de détecter la rugosité~\cite{hollins2000evidence}.
Cette limite définie la macro-rugosité de la micro-rugosité, mais les deux perceptions se recouvrent en partie et peuvent donc être difficile à distinguer~\cite{okamoto2013psychophysical}.

La perception haptique de la rugosité, macro ou micro, est déterminée par certaines caractéristiques physiques de la surface
La plus importante est la densité des éléments de la surface, \ie par l'espace entre les éléments~\cite{klatzky2010multisensory}.
Pour établir cette relation, des surfaces texturées ont été fabriquées, sous forme d'une grille linéaire (sur un axe) composée de rainures et de crêtes~\cite{lederman1972fingertip,lawrence2007haptic}, illustré \figref{lawrence2007haptic_1}, ou de surface composée d'éléments coniques sur deux axes~\cite{klatzky2003feeling}, illustré \figref{klatzky2003feeling_1}.
Comme montré sur la \figref{lawrence2007haptic_2}, la perception de la rugosité avec ces surfaces contrôlées augmente avec l'espace entre les éléments mais n'est pas affecté par la taille des éléments~\cite{lawrence2007haptic}.
Plus spécifiquement, il y a une relation quadratique du log de l'intensité perçue de la rugosité $R$ avec le log de l'espace entre les éléments $s$~\cite{klatzky2003feeling}: $log(R) = a \, log(s)^2 + b \, s + c$ où $a$, $b$ et $c$ sont des paramètres empiriques à estimer.
Un plus grand espace entre les éléments augmente la rugosité perçue, mais atteint un plateau à partir \qty{~5}{\mm} pour la grille linéaire tandis que la rugosité diminue pour les éléments coniques à partir de \qty{~2.5}{\mm}.


\begin{subfigs}{lawrence2007haptic}{Estimation de la rugosité haptique d'une grille linéaire par exploration active. Adapté de \textcite{lawrence2007haptic}. }[
        \item Schéma d'une surface texturée fabriquée constituée de rainures et de crêtes en forme de grille.
        \item Résultat la perception de la magnitude de la rugosité (axe vertical) en fonction de la taille des rainures (axe horizontal, intervalle de \qtyrange{0.125}{4.5}{\mm}), de la taille des crêtes (RW, ronds et carrés) et du mode d'exploration (avec le doigt en blanc et via une sonde rigide tenue en main en noir).
    ]
    \subfig[.49]{lawrence2007haptic_1}
    \subfig[.49]{lawrence2007haptic_2}
\end{subfigs}


\paragraph{Stiffness}

\paragraph{Temperature}

\paragraph{Weight}

\paragraph{Spatial Properties}


\subsection{Wearable Haptics}
\label{wearable_haptics}


\subsubsection{Wearable Haptic Devices}
\label{wearable_haptic_devices}

\paragraph{Mechanics and Wearability}

% Tradeoff realistic and cost + analogy with sound, Hi-Fi costs a lot and is realistic, but 40$ BT headphone is more practical and enough, as cutaneous feedback without kinesthesic could be enough for wearable haptics and far more affordable and comfortable than world- or body-grounded haptics + cutaneous even better than kine for rendering surface curvature and fine manipulation

% Level of wearability is inverse of kinesthetic feedback capability

\paragraph{Moving Actuators}

\paragraph{Vibrotactile Actuators}

\paragraph{Kinesthetic Actuators}


\subsubsection{Wearable Haptic Renderings}
\label{wearable_haptic_renderings}

\paragraph{Contact}

\paragraph{Texture}

\paragraph{Stiffness}

\paragraph{Temperature}

\paragraph{Shape}


\subsubsection{Evaluating the Haptic Feedback}
\label{wearable_haptics_evaluation}

Les nombreuses interfaces et rendus des dispositifs haptiques portables développés tendent à reproduire des expérience perceptuelles similaires, voire réalistes, à celles des interactions haptiques avec des objets réels.
%
Les méthodes psychophysiques sont notamment utilisées pour étudier le sens du toucher avec des objets réels et sont ré-employées pour pour évaluer la perception par les utilisateurs des rendus haptiques virtuels.
%
\textcite{choi2013vibrotactile} présentent particulièrement bien les questions perceptuelles et les méthodes d'évaluations à considérer.


\subsection{Conclusion}
\label{wearable_haptics_conclusion}
