234 lines
18 KiB
TeX
234 lines
18 KiB
TeX
\section{Wearable Haptics for the Hand}
|
|
\label{wearable_haptics_hand}
|
|
|
|
To understand how wearable haptics have been used to render haptic properties of virtual objects and haptic augmentations to tangible objects, we first need to briefly describe how the hand senses and acts on its environment.
|
|
|
|
|
|
\subsection{The Haptic Sense}
|
|
\label{haptic_sense}
|
|
|
|
The haptic sense has specific characteristics that make it unique in regard to other senses.
|
|
%
|
|
It enables us to perceive a large diversity of properties in the surrounding objects, through to a complex combination of sensations produced by numerous sensory receptors distributed throughout the body.
|
|
%
|
|
But it also allows us to act on these objects, to come into contact with them, to grasp them, to manipulate them and to actively explore them.
|
|
%
|
|
This implies that the haptic perception is localised at the points of contact between the body and the environment, \ie we cannot haptically perceive an object without actively touching it.
|
|
%
|
|
These two mechanisms, \emph{perception and action}, are therefore closely associated and both essential to form the haptic experience of interacting with the environment~\cite{lederman2009haptic}.
|
|
|
|
% passive and active touch
|
|
% hand mechanics and anatomy
|
|
% exploratory procedures
|
|
% grasp types
|
|
|
|
|
|
\subsubsection{Haptic Perception}
|
|
\label{haptic_perception}
|
|
|
|
Perceiving the properties of an object involves numerous sensory receptors embedded in the skin, but also in the muscles and joints of the hand, and distributed across the body. They are divided into two main modalities: \emph{cutaneous and kinesthetic}.
|
|
|
|
\paragraph{Cutaneous Sensitivity}
|
|
|
|
Cutaneous haptic receptors are specialised nerve endings implanted in the skin that respond differently to the various stimuli applied to the skin. \figref{blausen2014medical_skin} shows the location in the skin of the four main cutaneous receptors that respond to mechanical deformation of the skin.
|
|
|
|
Adaptation rate and receptor size are the two key characteristics that respectively determine the temporal and spatial resolution of these mechanoreceptors, as summarized in \tabref{cutaneous_receptors}.
|
|
%
|
|
The \emph{adaptation rate} is the speed and duration of the response to a stimulus.
|
|
%
|
|
Meissner and Pacinian receptors, known as fast-adapting, respond rapidly to a stimulus but stop quickly even though the stimulus is still present, allowing the detection of high-frequency changes.
|
|
%
|
|
In contrast, Merkel and Ruffini receptors, known as slow-adapting, have a slower but continuous response to a static, prolonged stimulus.
|
|
%
|
|
The \emph{size of the receptor} determines the area of skin that can be sensed by a single nerve ending.
|
|
%
|
|
Meissner and Merkel receptors have a small detection area and are sensitive to fine skin deformations, while Ruffini and Pacinian receptors have a larger detection area.
|
|
|
|
\fig[0.6]{blausen2014medical_skin}{Schema of cutaneous mechanoreceptors in a section of the skin~\cite{blausen2014medical}.}
|
|
|
|
The density of mechanoreceptors varies according to skin type and body region.
|
|
%
|
|
\emph{Glabrous skin}, especially on the face, feet, hands, and more importantly, the fingers, is particularly rich in cutaneous receptors, giving these regions great tactile sensitivity.
|
|
%
|
|
The density of the Meissner and Merkel receptors, which are the most sensitive, is notably high in the fingertips~\cite{johansson2009coding}.
|
|
%
|
|
Conversely, \emph{hairy skin} is less sensitive and does not contain Meissner receptors, but has additional receptors at the base of the hairs, as well as receptors known as C-tactile, which are involved in pleasantness and affective touch~\cite{ackerley2014touch}.
|
|
|
|
There are also two types of thermal receptors implanted in the skin, which respond to increases or decreases in skin temperature, respectively, providing sensations of warmth or cold~\cite{lederman2009haptic}.
|
|
%
|
|
Finally, free nerve endings (without specialized receptors) provide information about pain~\cite{mcglone2007discriminative}.
|
|
|
|
\begin{tab}{cutaneous_receptors}{Characteristics of the cutaneous mechanoreceptors.}[
|
|
Adaptation rate is the speed and duration of the receptor's response to a stimulus. Receptive size is the area of skin detectable by a single receptor. Sensitivities are the stimuli detected by the receptor. Adapted from \textcite{mcglone2007discriminative} and \textcite{johansson2009coding}.
|
|
]
|
|
\begin{tabularx}{\linewidth}{p{1.7cm} p{2cm} p{2cm} X}
|
|
\toprule
|
|
\textbf{Receptor} & \textbf{Adaptation Rate} & \textbf{Receptive Size} & \textbf{Sensitivities} \\
|
|
\midrule
|
|
Meissner & Fast & Small & Discontinuities (\eg edges), medium-frequency vibration (\qtyrange{5}{50}{\Hz}) \\
|
|
Merkel & Slow & Small & Pressure, low-frequency vibration (\qtyrange{0}{5}{\Hz}) \\
|
|
Pacinian & Fast & Large & High-frequency vibration (\qtyrange{40}{400}{\Hz}) \\
|
|
Ruffini & Slow & Large & Skin stretch \\
|
|
\bottomrule
|
|
\end{tabularx}
|
|
\end{tab}
|
|
|
|
\paragraph{Kinesthetic Sensitivity}
|
|
|
|
Kinesthetic receptors are also mechanoreceptors but are located in the muscles, tendons and joints~\cite{jones2006human}.
|
|
Les fuseaux musculaires, situés dans les muscles, répondent à la longueur des muscles, à la vitesse de l'étirement et à la contraction musculaire.
|
|
Les organes tendineux de Golgi, situés à la jonction entre les muscles et les tendons, répondent à la force développée par les muscles.
|
|
Enfin, des récepteurs de Ruffini et de Pacini sont présent dans les articulations et répondent au mouvement articulaire.
|
|
Ces trois types de récepteurs donnent donc, ensemble, un retour sensoriel sur le déplacement, la vitesse et la force des muscles ainsi que la rotation des articulations lors d'un mouvement.
|
|
Ils permettent donc également de sentir les forces et les couples extérieurs appliqués sur le corps.
|
|
|
|
Les récepteurs kinesthésiques sont donc fortement liés au contrôle moteur du corps.
|
|
En fournissant un retour sensoriel en réponse à la position et aux mouvements des membres, ils permettent une perception de notre corps dans l'espace, appelée \emph{proprioception}.
|
|
Ainsi, même les yeux fermés, nous sommes capable de planifier et effectuer des mouvements précis pour toucher ou saisir une cible.
|
|
Cependant, les mecanorécepteurs cutanées sont partie intégrante de cette perception, car tout mouvement du corps ainsi que les contacts avec l'environment déforme nécessairement la peau~\cite{johansson2009coding}.
|
|
|
|
|
|
\subsubsection{Hand-Object Interactions}
|
|
\label{hand_object_interactions}
|
|
|
|
La perception haptique est donc complexe, riche et construite à partir des multiples récepteurs sensoriels d'entrée cutanées et kinesthésiques.
|
|
Particulièrement présents dans la main, ils lui donne une grande sensibilité haptique mais aussi une grande dextérité dans ses mouvements.
|
|
En effet, en fournissant un retour sensoriel en réponse aux mouvements de la main et des doigts, cela forme une \emph{boucle sensorimotrice} qui permet d'ajuster les mouvements en fonction des sensations.
|
|
|
|
\paragraph{Sensorimotor Continuum of the Hand}
|
|
|
|
La contribution de ces deux types de sensations varie cependant selon les mouvements demandés par l'activité qu'effectue la main.
|
|
\textcite{jones2006human} ont proposé ainsi un continuum sensorimoteur des fonctions de la main, allant d'activités principalement sensorielles à des activités avec une composante motrice plus importante.
|
|
Comme illustré dans la \figref{sensorimotor-continuum}, \textcite{jones2006human} proposent de délimiter quatre catégories de fonctions de la main sur ce continuum:
|
|
%
|
|
\begin{itemize}
|
|
\item La \emph{détection tactile} est la capacité de la main à percevoir un objet avec qui elle est en contact statique à partir des sensations cutanées. L'objet peut cependant être en mouvement, mais la main reste immobile. Aussi appelé \emph{toucher passif}, cela permet une assez bonne perception de la surface, par exemple \textcite{gunther2022smooth}.
|
|
\item La \emph{détection haptique active} est l'exploration manuelle et volontaire d'un objet avec la main, impliquant l'ensemble des sensations cutanées et kinesthésiques. Cela permet une perception plus précise que le toucher passif~\cite{lederman2009haptic}.
|
|
\item La \emph{préhension} est l'action de saisir un objet avec la main, et de le maintenir. Cela implique une coordination fine entre les mouvements de la main et des doigt avec les sensations haptiques en retour.
|
|
\item Les \emph{gestes}, appelé non-prehensible skilled movements par \textcite{jones2006human}, sont des activités essentiellement motrices et sans contact continu avec un objet. Ce sont par exemple pointer une cible, frapper un clavier, accompagner un discours de gestes ou signer en langue des signes~\cite{yoon2020evaluating}
|
|
\end{itemize}
|
|
|
|
\fig[0.6]{sensorimotor-continuum}{The sensorimotor continuum of the hand function proposed by and adapted from \textcite{jones2006human}. Functions of the hand are classified into four categories based on the relative importance of sensory and motor components.}
|
|
|
|
L'ensemble des interactions possible de la main avec un objet est vaste et varié, \textcite{bullock2013handcentric} ont proposé une classification plus détaillée en 15 catégories.
|
|
%
|
|
Dans cette thèse, nous nous intéressons aux détections haptiques actives (\ie à l'exploration) d'augmentations visuo-haptiques (voir \partref{perception}) et à la préhension d'objets virtuels (voir \partref{manipulation}) dans le contexte de la RA et des wearable haptics.
|
|
|
|
\paragraph{Hand Anatomy and Motion}
|
|
|
|
Avant de comprendre comment la main est utilisée pour l'exploration et la préhension d'objets, il faut décrire brièvement son anatomie. En effet, sous la peau, la mise en action des muscles et des tendons est possible car ils prennent appuis sur les os.
|
|
|
|
Comme illustré sur la \figref{blausen2014medical_hand}, le squelette de la main est composée de 27 os articulés. Le poignet, constitué de 8 os carpiens, relie la main au bras, et est à la base des 5 os métacarpiens de la paume, un pour chaque doigt.
|
|
Chaque doigt est composé d'une chaîne de 3 phalanges, proximale, moyenne et distale, à l'exception du pouce qui n'a que deux phalanges proximale et distale.
|
|
Les articulations à la base de chaque phalange permettent des mouvements de flexions et extensions, i.e. des mouvements de pliage et de dépliage, par rapport à l'os précédent.
|
|
Les phalanges proximales peuvent également effectuer des mouvements d'adduction et d'abduction, i.e. des mouvements de rapprochement et d'éloignement des doigts.
|
|
Enfin, la métacarpe du pouce est capable de mouvements de flexion/extension et d'adduction/abduction, ce qui permet au pouce de venir s'opposer aux autres doigts.
|
|
Ces axes de mouvements sont appelés degrés de libertés et peuvent être représentés par un \emph{modèle kinématique} de la main à 27 DDL comme illustrés sur la \figref{blausen2014medical_hand}.
|
|
Ainsi, le pouce a 5 DDL, chaque des quatre autres doigts a 4 DDL, et le poignet 6 DDL en pouvant prendre n'importe quelle position (3 DDL) ou orientation (3 DDL) dans l'espace~\cite{erol2007visionbased}.
|
|
|
|
Cette structure complexe permet à la main de nombreux mouvements et gestes. Cependant la façon dont nous explorons et saisissons les objets suit des modèles plus simples, qui dépendent de l'objet touché et de l'objectif de l'interaction.
|
|
|
|
\begin{subfigs}{hand}{Anatomy and motion of the hand. }[
|
|
\item Schema of the hand skeleton. Adapted from \textcite{blausen2014medical}.
|
|
\item Kinematic model of the hand with 27 degrees of freedom~\cite{erol2007visionbased}.
|
|
]
|
|
\subfigsheight{6cm}
|
|
\subfig{blausen2014medical_hand}
|
|
\subfig{kinematic_hand_model}
|
|
\end{subfigs}
|
|
|
|
\paragraph{Exploratory Procedures}
|
|
|
|
L'exploration d'un objet par la main suit des modèles de mouvements stéréotypés, appelés procédures exploratoires~\cite{lederman1987hand}.
|
|
Comme illustré sur la \figref{exploratory_procedures}, selon la propriété de l'objet explorée (décrites \secref{object_properties}), va être associé un mouvement spécifique et optimal de la main pour acquérir les information sensorielles les plus pertinentes pour cette propriété.
|
|
Par exemple, réaliser un \emph{mouvement latéral} des doigts sur la surface pour identifier sa texture, une \emph{pression} avec doigt pour percevoir sa rigidité, ou \emph{suivre les contours} de l'objet pour connaitre sa forme précise.
|
|
Ces trois procédures impliquent seulement les bouts des doigts et, en particulier, l'index~\cite{gonzalez2014analysis}.
|
|
L'ensemble de la main est utilisée pour les autres procédures: par exemple, en approchant voire posant la paume pour sentir la température de la surface (\emph{static contact}), ou en prenant l'objet dans la main pour estimer son poids (\emph{unsupported holding}).
|
|
L'\emph{enclosure}, en fermant la main sur l'objet, permet d'evaluer sa forme globale et son volume.
|
|
|
|
\fig{exploratory_procedures}{Exploratory procedures and their associated object properties (in parentheses). Adapted from \textcite{lederman2009haptic}.}
|
|
|
|
Le sens haptique seul (sans la vision) nous permet ainsi de reconnaitre les objets familiers avec une grande précision. La reconnaissance des propriété matérielles, \ie la surface, (texture, rigidité, température) est meilleure qu'avec le sens visuel seul, mais la reconnaissance des propriétés spatiales (forme, volume) est moins bonne que la vision~\cite{lederman2009haptic}.
|
|
Quelques secondes (\qtyrange{2}{3}{\s}) suffisent pour effectuer ces procédures, à l'exception du suivi de contour qui peut prendre une dizaine de secondes~\cite{jones2006human}.
|
|
|
|
\paragraph{Grasp Types}
|
|
|
|
La préhension d'un objet par la main est possible car celle-ci peut prendre de nombreuses postures grâce aux degrés de liberté de son squelette.
|
|
En venant opposer le pouce ou la paume aux autres doigts (pad or palm grasps), ou encore les doigts entre eux comme pour tenir une cigarette (side grasp), la main peut tenir en sécurité l'objet~\cite{iberall1997human}.
|
|
La préhension varie donc selon la forme de l'objet et la tâche a réaliser, par exemple saisir un stylo du bout des doigts puis le tenir pour écrire avec ou bien prendre une tasse par le corps pour la remplir et par l'anse pour la boire~\cite{cutkosky1986modeling}.
|
|
Trois types de préhensions sont distingués selon leur degré de force et de précision: Dans les préhensions de force, l'objet est tenu fermement et suit les mouvements de la main de façon rigide, tandis que dans les préhensions de précision, les doigts peuvent bouger l'objet à l'intérieur de la main mais sans bouger le bras. Les préhensions mixtes combinent force et précision en proportions égales~\cite{feix2016grasp}.
|
|
|
|
Indépendamment de l'objet et de la tâche, le nombre de types de préhension peut être réduit à 33 types et classifié comme sur la comme illustré par la figure \figref{bullock2013grasp}~\cite{feix2016grasp}. Avec des objets de la vie de tous les jours, ce nombre est même plus restreint, entre 5 et 10 types de préhension selon l'activité~\cite{bullock2013grasp}. En outre, les bouts des doigts sont les zones de la main les plus impliquées, en terme de fréquence d'usage. En particulier, le pouce est pratiquement toujours utilisé, ainsi que l'index et le majeur, mais les autres doigts sont moins sollicités~\cite{gonzalez2014analysis}. Cela s'explique par la sensibilité des bouts des doigts (voir \secref{haptic_perception}) et par la plus grande facilité d'opposer le pouce à l'index et au majeur que les autres doigts.
|
|
|
|
\fig[1]{bullock2013grasp}{Taxonomy of grap types of~\textcite{feix2016grasp}, classified in the columns according to their type (power, precision or intermediate), the opposition type (Opp row) and the number of opposing finger groups (virtual finger (VF) row). Illustration from~\cite{bullock2013grasp}.}
|
|
|
|
|
|
\subsubsection{Object Properties}
|
|
\label{object_properties}
|
|
|
|
Toucher activement un objet implique donc une action sensorimotrice de la main.
|
|
%
|
|
Ainsi, les nombreux mouvements exploratoires utilisés guident la recherche d'informations sensorielles et permettent de construire une perception haptique des propriétés de l'objet.
|
|
%
|
|
Une distinction est généralement faite entre les propriétés matérielles, qui sont la perception de la surface, et spatiales, qui est la perception de la structure et de la géométrie de l'objet~\cite{lederman2009haptic}.
|
|
%
|
|
Nous décrivons ici les principales propriétés haptiques perçues.
|
|
|
|
\paragraph{Texture}
|
|
|
|
\paragraph{Stiffness}
|
|
|
|
\paragraph{Temperature}
|
|
|
|
\paragraph{Weight}
|
|
|
|
\paragraph{Spatial Properties}
|
|
|
|
|
|
\subsection{Wearable Haptics}
|
|
\label{wearable_haptics}
|
|
|
|
|
|
\subsubsection{Wearable Haptic Devices}
|
|
\label{wearable_haptic_devices}
|
|
|
|
\paragraph{Mechanics and Wearability}
|
|
|
|
% Tradeoff realistic and cost + analogy with sound, Hi-Fi costs a lot and is realistic, but 40$ BT headphone is more practical and enough, as cutaneous feedback without kinesthesic could be enough for wearable haptics and far more affordable and comfortable than world- or body-grounded haptics + cutaneous even better than kine for rendering surface curvature and fine manipulation
|
|
|
|
% Level of wearability is inverse of kinesthetic feedback capability
|
|
|
|
\paragraph{Moving Actuators}
|
|
|
|
\paragraph{Vibrotactile Actuators}
|
|
|
|
\paragraph{Kinesthetic Actuators}
|
|
|
|
|
|
\subsubsection{Wearable Haptic Renderings}
|
|
\label{wearable_haptic_renderings}
|
|
|
|
\paragraph{Contact}
|
|
|
|
\paragraph{Texture}
|
|
|
|
\paragraph{Stiffness}
|
|
|
|
\paragraph{Temperature}
|
|
|
|
\paragraph{Shape}
|
|
|
|
|
|
\subsubsection{Evaluating the Haptic Feedback}
|
|
\label{wearable_haptics_evaluation}
|
|
|
|
Les nombreuses interfaces et rendus des dispositifs haptiques portables développés tendent à reproduire des expérience perceptuelles similaires, voire réalistes, à celles des interactions haptiques avec des objets réels.
|
|
%
|
|
Les méthodes psychophysiques sont notamment utilisées pour étudier le sens du toucher avec des objets réels et sont ré-employées pour pour évaluer la perception par les utilisateurs des rendus haptiques virtuels.
|
|
%
|
|
\textcite{choi2013vibrotactile} présentent particulièrement bien les questions perceptuelles et les méthodes d'évaluations à considérer.
|
|
|
|
|
|
\subsection{Conclusion}
|
|
\label{wearable_haptics_conclusion}
|