203 lines
14 KiB
TeX
203 lines
14 KiB
TeX
\section{Wearable Haptics for the Hand}
|
|
\label{wearable_haptics_hand}
|
|
|
|
To understand how wearable haptics have been used to render haptic properties of virtual objects and haptic augmentations to tangible objects, we first need to briefly describe how the hand senses and acts on its environment.
|
|
|
|
|
|
\subsection{The Haptic Sense}
|
|
\label{haptic_sense}
|
|
|
|
The haptic sense has specific characteristics that make it unique in regard to other senses.
|
|
%
|
|
It enables us to perceive a large diversity of properties in the surrounding objects, through to a complex combination of sensations produced by numerous sensory receptors distributed throughout the body.
|
|
%
|
|
But it also allows us to act on these objects, to come into contact with them, to grasp them, to manipulate them and to actively explore them.
|
|
%
|
|
This implies that the haptic perception is localised at the points of contact between the body and the environment, \ie we cannot haptically perceive an object without actively touching it.
|
|
%
|
|
These two mechanisms, \emph{perception and action}, are therefore closely associated and both essential to form the haptic experience of interacting with the environment~\cite{lederman2009haptic}.
|
|
|
|
% passive and active touch
|
|
% hand mechanics and anatomy
|
|
% exploratory procedures
|
|
% grasp types
|
|
|
|
|
|
\subsubsection{Haptic Perception}
|
|
\label{haptic_perception}
|
|
|
|
Perceiving the properties of an object involves numerous sensory receptors embedded in the skin, but also in the muscles and joints of the hand, and distributed across the body. They are divided into two main modalities: \emph{cutaneous and kinesthetic}.
|
|
|
|
\paragraph{Cutaneous Sensitivity}
|
|
|
|
Cutaneous haptic receptors are specialised nerve endings implanted in the skin that respond differently to the various stimuli applied to the skin. \figref{blausen2014medical_skin} shows the location in the skin of the four main cutaneous receptors that respond to mechanical deformation of the skin.
|
|
|
|
Adaptation rate and receptor size are the two key characteristics that respectively determine the temporal and spatial resolution of these mechanoreceptors, as summarized in \tabref{cutaneous_receptors}.
|
|
%
|
|
The \emph{adaptation rate} is the speed and duration of the response to a stimulus.
|
|
%
|
|
Meissner and Pacinian receptors, known as fast-adapting, respond rapidly to a stimulus but stop quickly even though the stimulus is still present, allowing the detection of high-frequency changes.
|
|
%
|
|
In contrast, Merkel and Ruffini receptors, known as slow-adapting, have a slower but continuous response to a static, prolonged stimulus.
|
|
%
|
|
The \emph{size of the receptor} determines the area of skin that can be sensed by a single nerve ending.
|
|
%
|
|
Meissner and Merkel receptors have a small detection area and are sensitive to fine skin deformations, while Ruffini and Pacinian receptors have a larger detection area.
|
|
|
|
\fig[0.6]{blausen2014medical_skin}{Schema of cutaneous mechanoreceptors in a section of the skin~\cite{blausen2014medical}.}
|
|
|
|
The density of mechanoreceptors varies according to skin type and body region.
|
|
%
|
|
\emph{Glabrous skin}, especially on the face, feet, hands, and more importantly, the fingers, is particularly rich in cutaneous receptors, giving these regions great tactile sensitivity.
|
|
%
|
|
The density of the Meissner and Merkel receptors, which are the most sensitive, is notably high in the fingertips~\cite{johansson2009coding}.
|
|
%
|
|
Conversely, \emph{hairy skin} is less sensitive and does not contain Meissner receptors, but has additional receptors at the base of the hairs, as well as receptors known as C-tactile, which are involved in pleasantness and affective touch~\cite{ackerley2014touch}.
|
|
|
|
There are also two types of thermal receptors implanted in the skin, which respond to increases or decreases in skin temperature, respectively, providing sensations of warmth or cold~\cite{lederman2009haptic}.
|
|
%
|
|
Finally, free nerve endings (without specialized receptors) provide information about pain~\cite{mcglone2007discriminative}.
|
|
|
|
\begin{tab}{cutaneous_receptors}{Characteristics of the cutaneous mechanoreceptors.}[
|
|
Adaptation rate is the speed and duration of the receptor's response to a stimulus. Receptive size is the area of skin detectable by a single receptor. Sensitivities are the stimuli detected by the receptor. Adapted from \textcite{mcglone2007discriminative} and \textcite{johansson2009coding}.
|
|
]
|
|
\begin{tabularx}{\linewidth}{p{1.7cm} p{2cm} p{2cm} X}
|
|
\toprule
|
|
\textbf{Receptor} & \textbf{Adaptation Rate} & \textbf{Receptive Size} & \textbf{Sensitivities} \\
|
|
\midrule
|
|
Meissner & Fast & Small & Discontinuities (\eg edges), medium-frequency vibration (\qtyrange{5}{50}{\Hz}) \\
|
|
Merkel & Slow & Small & Pressure, low-frequency vibration (\qtyrange{0}{5}{\Hz}) \\
|
|
Pacinian & Fast & Large & High-frequency vibration (\qtyrange{40}{400}{\Hz}) \\
|
|
Ruffini & Slow & Large & Skin stretch \\
|
|
\bottomrule
|
|
\end{tabularx}
|
|
\end{tab}
|
|
|
|
\paragraph{Kinesthetic Sensitivity}
|
|
|
|
Kinesthetic receptors are also mechanoreceptors but are located in the muscles, tendons and joints~\cite{jones2006human}.
|
|
Les fuseaux musculaires, situés dans les muscles, répondent à la longueur des muscles, à la vitesse de l'étirement et à la contraction musculaire.
|
|
Les organes tendineux de Golgi, situés à la jonction entre les muscles et les tendons, répondent à la force développée par les muscles.
|
|
Enfin, des récepteurs de Ruffini et de Pacini sont présent dans les articulations et répondent au mouvement articulaire.
|
|
Ces trois types de récepteurs donnent donc, ensemble, un retour sensoriel sur le déplacement, la vitesse et la force des muscles ainsi que la rotation des articulations lors d'un mouvement.
|
|
Ils permettent donc également de sentir les forces et les couples extérieurs appliqués sur le corps.
|
|
|
|
Les récepteurs kinesthésiques sont donc fortement liés au contrôle moteur du corps.
|
|
En fournissant un retour sensoriel en réponse à la position et aux mouvements des membres, ils permettent une perception de notre corps dans l'espace, appelée \emph{proprioception}.
|
|
Ainsi, même les yeux fermés, nous sommes capable de planifier et effectuer des mouvements précis pour toucher ou saisir une cible.
|
|
Cependant, les mecanorécepteurs cutanées sont partie intégrante de cette perception, car tout mouvement du corps ainsi que les contacts avec l'environment déforme nécessairement la peau~\cite{johansson2009coding}.
|
|
|
|
|
|
\subsubsection{Hand-Object Interactions}
|
|
\label{hand_object_interactions}
|
|
|
|
La perception haptique est donc complexe, riche et construite à partir des multiples récepteurs sensoriels d'entrée cutanées et kinesthésiques.
|
|
Particulièrement présents dans la main, ils lui donne une grande sensibilité haptique mais aussi une grande dextérité dans ses mouvements.
|
|
En effet, en fournissant un retour sensoriel en réponse aux mouvements de la main et des doigts, cela forme une \emph{boucle sensorimotrice} qui permet d'ajuster les mouvements en fonction des sensations.
|
|
|
|
\paragraph{Sensorimotor Continuum of the Hand}
|
|
|
|
La contribution de ces deux types de sensations varie cependant selon les mouvements demandés par l'activité qu'effectue la main.
|
|
\textcite{jones2006human} ont proposé ainsi un continuum sensorimoteur des fonctions de la main, allant d'activités principalement sensorielles à des activités avec une composante motrice plus importante.
|
|
Comme illustré dans la \figref{sensorimotor-continuum}, \textcite{jones2006human} proposent de délimiter quatre catégories de fonctions de la main sur ce continuum:
|
|
%
|
|
\begin{itemize}
|
|
\item La \emph{détection tactile} est la capacité de la main à percevoir un objet avec qui elle est en contact statique à partir des sensations cutanées. L'objet peut cependant être en mouvement, mais la main reste immobile. Aussi appelé \emph{toucher passif}, cela permet une assez bonne perception de la surface, par exemple \textcite{gunther2022smooth}.
|
|
\item La \emph{détection haptique active} est l'exploration manuelle et volontaire d'un objet avec la main, impliquant l'ensemble des sensations cutanées et kinesthésiques. Cela permet une perception plus précise que le toucher passif~\cite{lederman2009haptic}.
|
|
\item La \emph{préhension} est l'action de saisir un objet avec la main, et de le maintenir. Cela implique une coordination fine entre les mouvements de la main et des doigt avec les sensations haptiques en retour.
|
|
\item Les \emph{gestes}, appelé non-prehensible skilled movements par \textcite{jones2006human}, sont des activités essentiellement motrices et sans contact continu avec un objet. Ce sont par exemple pointer une cible, frapper un clavier, accompagner un discours de gestes ou signer en langue des signes~\cite{yoon2020evaluating}
|
|
\end{itemize}
|
|
|
|
\fig[0.6]{sensorimotor-continuum}{The sensorimotor continuum of the hand function proposed by and adapted from~\textcite{jones2006human}. Functions of the hand are classified into four categories based on the relative importance of sensory and motor components.}
|
|
|
|
L'ensemble des interactions possible de la main avec un objet est vaste et varié, \textcite{bullock2013handcentric} ont proposé une classification plus détaillée en 15 catégories.
|
|
%
|
|
Dans cette thèse, nous nous intéressons aux détections haptiques actives d'augmentations visuo-haptiques (voir \partref{perception}) et à la préhension d'objets virtuels (voir \partref{manipulation}) dans le contexte de la RA et des wearable haptics.
|
|
|
|
\paragraph{Hand Anatomy}
|
|
|
|
Pour comprendre la diversité des actions possibles de la main, il faut décrire brièvement son anatomie. En effet, sous la peau, la mise en action des muscles et des tendons est possible car ils prennent appuis sur les os.
|
|
Le squelette de la main, complexe et articulé, est composé de ...
|
|
|
|
\fig[0.45]{blausen2014medical_hand}{Schema of the hand skeleton. Adapted from~\cite{blausen2014medical}.}
|
|
|
|
\paragraph{Exploratory Procedures}
|
|
|
|
\paragraph{Grasp Types}
|
|
|
|
La préhension d'un objet par la main est possible car celle-ci peut prendre de nombreuses postures grâce aux degrés de liberté de son squelette.
|
|
En venant opposer le pouce ou la paume aux autres doigts (pad or palm grasps), ou encore les doigts entre eux comme pour tenir une cigarette (side grasp), la main peut tenir en sécurité l'objet~\cite{iberall1997human}.
|
|
La préhension varie donc selon la forme de l'objet et la tâche a réaliser, comme illustré par la figure xxx, par exemple saisir un stylo du bout des doigts puis le tenir pour écrire avec ou bien prendre une tasse par le corps pour la remplir et par l'anse pour la boire~\cite{cutkosky1986modeling}.
|
|
Trois types de préhensions sont distingués selon leur degré de force et de précision: Dans les préhensions de force, l'objet est tenu fermement et suit les mouvements de la main, tandis que dans les préhensions de précision, la main peut effectuer des mouvements avec les doigts sur l'objet sans bouger le bras. Les préhensions mixtes combinent force et précision en égal proportion~\cite{feix2016grasp}.
|
|
Le nombre de types de préhension peut être classifié et réduit à 33 types~\cite{feix2016grasp}. Au quotidien ou au travail, ce nombre est même plus restreint pouvant aller entre 5 et 10 types de préhension selon l'activité~\cite{bullock2013grasp}.
|
|
|
|
|
|
\subsubsection{Object Properties}
|
|
\label{object_properties}
|
|
|
|
Toucher activement un objet implique donc une action sensorimotrice de la main.
|
|
%
|
|
Ainsi, les nombreux mouvements exploratoires utilisés guident la recherche d'informations sensorielles et permettent de construire une perception haptique des propriétés de l'objet.
|
|
%
|
|
Une distinction est généralement faite entre les propriétés matérielles, qui sont la perception de la surface, et spatiales, qui est la perception de la structure et de la géométrie de l'objet~\cite{lederman2009haptic}.
|
|
%
|
|
Nous décrivons ici les principales propriétés haptiques perçues.
|
|
|
|
\paragraph{Texture}
|
|
|
|
\paragraph{Stiffness}
|
|
|
|
\paragraph{Temperature}
|
|
|
|
\paragraph{Weight}
|
|
|
|
\paragraph{Spatial Properties}
|
|
|
|
|
|
\subsection{Wearable Haptics}
|
|
\label{wearable_haptics}
|
|
|
|
|
|
\subsubsection{Wearable Haptic Devices}
|
|
\label{wearable_haptic_devices}
|
|
|
|
\paragraph{Mechanics and Wearability}
|
|
|
|
% Tradeoff realistic and cost + analogy with sound, Hi-Fi costs a lot and is realistic, but 40$ BT headphone is more practical and enough, as cutaneous feedback without kinesthesic could be enough for wearable haptics and far more affordable and comfortable than world- or body-grounded haptics + cutaneous even better than kine for rendering surface curvature and fine manipulation
|
|
|
|
% Level of wearability is inverse of kinesthetic feedback capability
|
|
|
|
\paragraph{Moving Actuators}
|
|
|
|
\paragraph{Vibrotactile Actuators}
|
|
|
|
\paragraph{Kinesthetic Actuators}
|
|
|
|
|
|
\subsubsection{Wearable Haptic Renderings}
|
|
\label{wearable_haptic_renderings}
|
|
|
|
\paragraph{Contact}
|
|
|
|
\paragraph{Texture}
|
|
|
|
\paragraph{Stiffness}
|
|
|
|
\paragraph{Temperature}
|
|
|
|
\paragraph{Shape}
|
|
|
|
|
|
\subsubsection{Evaluating the Haptic Feedback}
|
|
\label{wearable_haptics_evaluation}
|
|
|
|
Les nombreuses interfaces et rendus des dispositifs haptiques portables développés tendent à reproduire des expérience perceptuelles similaires, voire réalistes, à celles des interactions haptiques avec des objets réels.
|
|
%
|
|
Les méthodes psychophysiques sont notamment utilisées pour étudier le sens du toucher avec des objets réels et sont ré-employées pour pour évaluer la perception par les utilisateurs des rendus haptiques virtuels.
|
|
%
|
|
\textcite{choi2013vibrotactile} présentent particulièrement bien les questions perceptuelles et les méthodes d'évaluations à considérer.
|
|
|
|
|
|
\subsection{Conclusion}
|
|
\label{wearable_haptics_conclusion}
|