WIP hardness, friction

This commit is contained in:
2024-09-03 15:25:34 +02:00
parent ff1cda9baf
commit 43beddc6ea
13 changed files with 288 additions and 65 deletions

View File

@@ -28,6 +28,7 @@ These two mechanisms, \emph{perception and action}, are therefore closely associ
Perceiving the properties of an object involves numerous sensory receptors embedded in the skin, but also in the muscles and joints of the hand, and distributed across the body. They are divided into two main modalities: \emph{cutaneous and kinesthetic}. Perceiving the properties of an object involves numerous sensory receptors embedded in the skin, but also in the muscles and joints of the hand, and distributed across the body. They are divided into two main modalities: \emph{cutaneous and kinesthetic}.
\paragraph{Cutaneous Sensitivity} \paragraph{Cutaneous Sensitivity}
Cutaneous haptic receptors are specialised nerve endings implanted in the skin that respond differently to the various stimuli applied to the skin. \figref{blausen2014medical_skin} shows the location in the skin of the four main cutaneous receptors that respond to mechanical deformation of the skin. Cutaneous haptic receptors are specialised nerve endings implanted in the skin that respond differently to the various stimuli applied to the skin. \figref{blausen2014medical_skin} shows the location in the skin of the four main cutaneous receptors that respond to mechanical deformation of the skin.
@@ -73,6 +74,7 @@ Finally, free nerve endings (without specialized receptors) provide information
\end{tabularx} \end{tabularx}
\end{tab} \end{tab}
\paragraph{Kinesthetic Sensitivity} \paragraph{Kinesthetic Sensitivity}
Kinesthetic receptors are also mechanoreceptors but are located in the muscles, tendons and joints~\cite{jones2006human}. Kinesthetic receptors are also mechanoreceptors but are located in the muscles, tendons and joints~\cite{jones2006human}.
@@ -95,6 +97,7 @@ La perception haptique est donc complexe, riche et construite à partir des mult
Particulièrement présents dans la main, ils lui donne une grande sensibilité haptique mais aussi une grande dextérité dans ses mouvements. Particulièrement présents dans la main, ils lui donne une grande sensibilité haptique mais aussi une grande dextérité dans ses mouvements.
En effet, en fournissant un retour sensoriel en réponse aux mouvements de la main et des doigts, cela forme une \emph{boucle sensorimotrice} qui permet d'ajuster les mouvements en fonction des sensations. En effet, en fournissant un retour sensoriel en réponse aux mouvements de la main et des doigts, cela forme une \emph{boucle sensorimotrice} qui permet d'ajuster les mouvements en fonction des sensations.
\paragraph{Sensorimotor Continuum of the Hand} \paragraph{Sensorimotor Continuum of the Hand}
La contribution de ces deux types de sensations varie cependant selon les mouvements demandés par l'activité qu'effectue la main. La contribution de ces deux types de sensations varie cependant selon les mouvements demandés par l'activité qu'effectue la main.
@@ -114,6 +117,7 @@ L'ensemble des interactions possible de la main avec un objet est vaste et vari
% %
Dans cette thèse, nous nous intéressons aux détections haptiques actives (\ie à l'exploration) d'augmentations visuo-haptiques (voir \partref{perception}) et à la préhension d'objets virtuels (voir \partref{manipulation}) dans le contexte de la RA et des wearable haptics. Dans cette thèse, nous nous intéressons aux détections haptiques actives (\ie à l'exploration) d'augmentations visuo-haptiques (voir \partref{perception}) et à la préhension d'objets virtuels (voir \partref{manipulation}) dans le contexte de la RA et des wearable haptics.
\paragraph{Hand Anatomy and Motion} \paragraph{Hand Anatomy and Motion}
Avant de comprendre comment la main est utilisée pour l'exploration et la préhension d'objets, il faut décrire brièvement son anatomie. En effet, sous la peau, la mise en action des muscles et des tendons est possible car ils prennent appuis sur les os. Avant de comprendre comment la main est utilisée pour l'exploration et la préhension d'objets, il faut décrire brièvement son anatomie. En effet, sous la peau, la mise en action des muscles et des tendons est possible car ils prennent appuis sur les os.
@@ -137,6 +141,7 @@ Cette structure complexe permet à la main de nombreux mouvements et gestes. Cep
\subfig{kinematic_hand_model} \subfig{kinematic_hand_model}
\end{subfigs} \end{subfigs}
\paragraph{Exploratory Procedures} \paragraph{Exploratory Procedures}
L'exploration d'un objet par la main suit des modèles de mouvements stéréotypés, appelés procédures exploratoires~\cite{lederman1987hand}. L'exploration d'un objet par la main suit des modèles de mouvements stéréotypés, appelés procédures exploratoires~\cite{lederman1987hand}.
@@ -153,6 +158,7 @@ La reconnaissance des propriété matérielles, \ie la surface et sa texture, ri
Mais la reconnaissance des propriétés spatiales, la forme et la taille de l'objet, est moins bonne avec l'haptique qu'avec la vision~\cite{lederman2009haptic}. Mais la reconnaissance des propriétés spatiales, la forme et la taille de l'objet, est moins bonne avec l'haptique qu'avec la vision~\cite{lederman2009haptic}.
Quelques secondes (\qtyrange{2}{3}{\s}) suffisent pour effectuer ces procédures, à l'exception du suivi de contour qui peut prendre une dizaine de secondes~\cite{jones2006human}. Quelques secondes (\qtyrange{2}{3}{\s}) suffisent pour effectuer ces procédures, à l'exception du suivi de contour qui peut prendre une dizaine de secondes~\cite{jones2006human}.
\paragraph{Grasp Types} \paragraph{Grasp Types}
La préhension d'un objet par la main est possible car celle-ci peut prendre de nombreuses postures grâce aux degrés de liberté de son squelette. La préhension d'un objet par la main est possible car celle-ci peut prendre de nombreuses postures grâce aux degrés de liberté de son squelette.
@@ -160,6 +166,8 @@ En venant opposer le pouce ou la paume aux autres doigts (pad or palm grasps), o
La préhension varie donc selon la forme de l'objet et la tâche a réaliser, par exemple saisir un stylo du bout des doigts puis le tenir pour écrire avec ou bien prendre une tasse par le corps pour la remplir et par l'anse pour la boire~\cite{cutkosky1986modeling}. La préhension varie donc selon la forme de l'objet et la tâche a réaliser, par exemple saisir un stylo du bout des doigts puis le tenir pour écrire avec ou bien prendre une tasse par le corps pour la remplir et par l'anse pour la boire~\cite{cutkosky1986modeling}.
Trois types de préhensions sont distingués selon leur degré de force et de précision: Dans les préhensions de force, l'objet est tenu fermement et suit les mouvements de la main de façon rigide, tandis que dans les préhensions de précision, les doigts peuvent bouger l'objet à l'intérieur de la main mais sans bouger le bras. Les préhensions mixtes combinent force et précision en proportions égales~\cite{feix2016grasp}. Trois types de préhensions sont distingués selon leur degré de force et de précision: Dans les préhensions de force, l'objet est tenu fermement et suit les mouvements de la main de façon rigide, tandis que dans les préhensions de précision, les doigts peuvent bouger l'objet à l'intérieur de la main mais sans bouger le bras. Les préhensions mixtes combinent force et précision en proportions égales~\cite{feix2016grasp}.
\fig{gonzalez2014analysis}{Taxonomy of grap types of~\textcite{gonzalez2014analysis}, classified according to their type (power, precision or intermediate) and the shape of the grasped objet. Each grasp show the area of the palm and fingers in contact with the object and the grasp with an example of object.}
Indépendamment de l'objet et de la tâche, le nombre de types de préhension peut être réduit à 34 types et classifié comme la taxonomie sur la \figref{gonzalez2014analysis}~\cite{gonzalez2014analysis}. Indépendamment de l'objet et de la tâche, le nombre de types de préhension peut être réduit à 34 types et classifié comme la taxonomie sur la \figref{gonzalez2014analysis}~\cite{gonzalez2014analysis}.
Une taxonomie plus complète a ensuite été proposée par \textcite{feix2016grasp}. Une taxonomie plus complète a ensuite été proposée par \textcite{feix2016grasp}.
Avec des objets de la vie de tous les jours, ce nombre est même plus restreint, entre 5 et 10 types de préhension selon l'activité~\cite{bullock2013grasp}. Avec des objets de la vie de tous les jours, ce nombre est même plus restreint, entre 5 et 10 types de préhension selon l'activité~\cite{bullock2013grasp}.
@@ -167,8 +175,6 @@ En outre, les bouts des doigts sont les zones de la main les plus impliquées, e
En particulier, le pouce est pratiquement toujours utilisé, ainsi que l'index et le majeur, mais les autres doigts sont moins sollicités~\cite{gonzalez2014analysis}. En particulier, le pouce est pratiquement toujours utilisé, ainsi que l'index et le majeur, mais les autres doigts sont moins sollicités~\cite{gonzalez2014analysis}.
Cela s'explique par la sensibilité des bouts des doigts (voir \secref{haptic_perception}) et par la plus grande facilité d'opposer le pouce à l'index et au majeur que les autres doigts. Cela s'explique par la sensibilité des bouts des doigts (voir \secref{haptic_perception}) et par la plus grande facilité d'opposer le pouce à l'index et au majeur que les autres doigts.
\fig{gonzalez2014analysis}{Taxonomy of grap types of~\textcite{gonzalez2014analysis}, classified according to their type (power, precision or intermediate) and the shape of the grasped objet. Each grasp show the area of the palm and fingers in contact with the object and the grasp with an example of object.}
\subsubsection{Object Properties} \subsubsection{Object Properties}
\label{object_properties} \label{object_properties}
@@ -179,42 +185,153 @@ On distingue, d'une part, les \emph{propriétés matérielles}, qui sont la perc
% %
D'autre part, les \emph{propriétés spatiales} sont la perception de la forme et de la taille de l'objet~\cite{lederman2009haptic}. D'autre part, les \emph{propriétés spatiales} sont la perception de la forme et de la taille de l'objet~\cite{lederman2009haptic}.
Chacune de ces propriétés est fortement liée à une caractéristique physique de l'objet, définie et mesurable, mais la perception peut différer de cette mesure physique, \eg \textcite{bergmanntiest2007haptic}. Chacune de ces propriétés est fortement liée à une caractéristique physique de l'objet, définie et mesurable, mais comme la perception est une expérience subjective, elle peut différer de cette mesure physique, \eg \textcite{bergmanntiest2007haptic,bergmanntiest2009cues}.
% %
La perception dépend aussi de nombreux autres facteurs, comme les mouvements effectués et le temps d'exploration, mais aussi de la personne, \eg sa sensibilité~\cite{hollins2000individual} ou son âge~\cite{jones2006human}, et du contexte de l'interaction~\cite{kahrimanovic2009context,kappers2013haptic}. La perception dépend aussi de nombreux autres facteurs, comme les mouvements effectués et le temps d'exploration, mais aussi de la personne, \eg sa sensibilité~\cite{hollins2000individual} ou son âge~\cite{jones2006human}, et du contexte de l'interaction~\cite{kahrimanovic2009context,kappers2013haptic}.
% %
Ces propriétés sont décrites (et évaluées) avec des échelles opposant deux adjectifs comme "rugueux/lisse" ou "chaud/froid"~\cite{okamoto2013psychophysical}. Ces propriétés sont décrites (et évaluées\footnotemark) avec des échelles opposant deux adjectifs comme "rugueux/lisse" ou "chaud/froid"~\cite{okamoto2013psychophysical}.
%
\footnotetext{Toutes les mesures de perception haptique décrites dans ce chapitre ont été effectuées par des participants avec les yeux bandés, pour contrôler l'influence de la vision.}
\paragraph{Roughness} \paragraph{Roughness}
La rugosité (ou la smoothness) est la perception de la \emph{micro-géométrie} d'une surface, \ie des aspérités à la surface avec des différences de hauteur de l'ordre du millimètre au micromètre~\cite{bergmanntiest2010tactual}. La rugosité (ou la smoothness) est la perception de la \emph{micro-géométrie} d'une surface, \ie des aspérités à la surface avec des différences de hauteur de l'ordre du millimètre au micromètre~\cite{bergmanntiest2010tactual}.
C'est, par exemple, la perception de la fibre d'un tissu ou du bois et la texture du papier de verre ou d'une peinture. C'est, par exemple, la perception de la fibre d'un tissu ou du bois et la texture du papier de verre ou d'une peinture.
La rugosité est donc ce qui caractérise principalement la perception de \emph{texture} de la surface avec, dans une moindre mesure, la dureté et la friction~\cite{hollins1993perceptual,bergmanntiest2006analysis}. La rugosité est donc ce qui caractérise principalement la perception de \emph{texture} de la surfaceq~\cite{hollins1993perceptual,baumgartner2013visual}.
En touchant la surface, ces aspérités déforment la peau et provoquent des pressions, impliquant les récepteurs de Merkel, et en passant le doigt sur la surface, les contacts avec les aspérités causent des vibrations également, senties par les récepteurs de Pacini~\cite{bensmaia2005pacinian}. En touchant la surface, ces aspérités déforment la peau et provoquent des pressions et, en passant le doigt sur la surface, les contacts avec les aspérités causent des vibrations également~\cite{bensmaia2005pacinian}.
Ainsi, si un toucher statique, où seul les indices de pression sont présent, permet de relativement bien percevoir la rugosité, c'est un mouvement latéral, intégrant les indices de vibrations, qui permet la meilleure précision. Ainsi, si un toucher statique, où seul les indices de pression sont présent, permet de relativement bien percevoir la rugosité, c'est un mouvement latéral en toucher actif (voir \figref{exploratory_procedures}), intégrant les indices de vibrations, qui permet la meilleure précision.
En particulier, quand les aspérités sont plus petites que \qty{0.1}{mm}, par exemple comme les fibres du papier, les indices de pressions ne sont plus captés et seul le mouvement donc les vibrations permet de détecter la rugosité~\cite{hollins2000evidence}. En particulier, quand les aspérités sont plus petites que \qty{0.1}{mm}, par exemple comme les fibres du papier, les indices de pressions ne sont plus captés et seul le mouvement donc les vibrations permet de détecter la rugosité~\cite{hollins2000evidence}.
Cette limite distingue la \emph{macro-rugosité} de la \emph{micro-rugosité}, mais les deux perceptions se recouvrent en partie et peuvent donc être difficile à distinguer~\cite{okamoto2013psychophysical}, notamment sur des textures naturelles qui contiennent des éléments de toute tailles~\cite{delhaye2012textureinduced}. Cette limite distingue la \emph{macro-rugosité} de la \emph{micro-rugosité}.
Les caractéristiques physiques de la surface déterminent donc la perception haptique de la rugosité. Les caractéristiques physiques de la surface déterminent donc la perception haptique de la rugosité.
La plus importante est la densité des éléments de la surface, \ie par l'\emph{espace entre les éléments}: L'intensité perçue de rugosité augmente avec l'espacement, pour la macro-rugosité~\cite{klatzky2003feeling,lawrence2007haptic} et la micro-rugosité~\cite{bensmaia2003vibrations}. La plus importante est la densité des éléments de la surface, \ie par l'\emph{espace entre les éléments}: L'intensité perçue (subjective) de rugosité augmente avec l'espacement, pour la macro-rugosité~\cite{klatzky2003feeling,lawrence2007haptic} et la micro-rugosité~\cite{bensmaia2003vibrations}.
Pour les macro-textures, la taille des éléments, la force appliquée et la vitesse d'exploration ont des effets limités sur l'intensité perçue~\cite{klatzky2010multisensory}: la macro-rugosité est dite principalement une \emph{perception spatiale}. Pour les macro-textures, la taille des éléments, la force appliquée et la vitesse d'exploration ont des effets limités sur l'intensité perçue~\cite{klatzky2010multisensory}: la macro-rugosité est dite une \emph{perception spatiale}.
Cependant, pour les micro-textures, une augmentation de la vitesse d'exploration affecte la vitesse des contacts des aspérités avec la peau et donc la perception de la rugosité~\cite{bensmaia2003vibrations}. Cette caractéristique nous permet de lire le braille, par exemple~\cite{lederman2009haptic}.
Cependant, la vitesse d'exploration affecte l'intensité perçue de la micro-rugosité~\cite{bensmaia2003vibrations}.
Pour établir la relation entre espacement et intensité pour la macro-rugosité, des surfaces texturées ont été fabriquées: sous forme d'une grille linéaire (sur un axe) composée de rainures et de crêtes~\cite{lederman1972fingertip,lawrence2007haptic}, illustré \figref{lawrence2007haptic_1}, ou de surface composée d'éléments coniques sur deux axes~\cite{klatzky2003feeling}, illustré \figref{klatzky2003feeling_1}. Pour établir la relation entre espacement et intensité pour la macro-rugosité, des surfaces texturées ont été fabriquées: sous forme d'une grille linéaire (sur un axe) composée de d'une alternance périodique de rainures et de crêtes~\cite{lederman1972fingertip,lawrence2007haptic}, illustré \figref{lawrence2007haptic_1}, ou de surface composée d'éléments coniques sur deux axes~\cite{klatzky2003feeling}, illustré \figref{klatzky2003feeling_1}.
Comme montré sur la \figref{lawrence2007haptic_2}, il y a une \emph{relation quadratique} du log de l'intensité perçue de la rugosité $R$ avec le log de l'espace entre les éléments $s$~\cite{klatzky2003feeling}: $log(R) = a \, log(s)^2 + b \, s + c$$a$, $b$ et $c$ sont des paramètres empiriques à estimer. Comme montré sur la \figref{lawrence2007haptic_2}, il y a une \emph{relation quadratique} du log de l'intensité perçue de la rugosité $R$ avec le log de l'espace entre les éléments $s$~\cite{klatzky2003feeling},$a$, $b$ et $c$ sont des paramètres empiriques à estimer:
Un plus grand espace entre les éléments augmente la rugosité perçue, mais atteint un plateau à partir \qty{~5}{\mm} pour la grille linéaire tandis que la rugosité diminue pour les éléments coniques à partir de \qty{~2.5}{\mm}. \begin{equation}
\label{eq:roughness_intensity}
log(R) = a \, log(s)^2 + b \, s + c
\end{equation}
\begin{subfigs}{lawrence2007haptic}{Estimation de la rugosité haptique d'une grille linéaire par exploration active. Adapté de \textcite{lawrence2007haptic}. }[ Agrandir l'espace entre les éléments augmente ainsi très rapidement la rugosité perçue jusqu'à atteindre un plateau à partir \qty{\sim 5}{mm} pour la grille linéaire~\cite{lawrence2007haptic} tandis que la rugosité atteint très rapidement un pic vers {\sim 2.5}{mm} puis diminue lentement pour les éléments coniques~\cite{klatzky2003feeling}.
\item Schéma d'une surface texturée fabriquée constituée de rainures et de crêtes en forme de grille.
\item Résultat la perception de la magnitude de la rugosité (axe vertical) en fonction de la taille des rainures (axe horizontal, intervalle de \qtyrange{0.125}{4.5}{\mm}), de la taille des crêtes (RW, ronds et carrés) et du mode d'exploration (avec le doigt en blanc et via une sonde rigide tenue en main en noir). \begin{subfigs}{lawrence2007hapti}{Estimation de la rugosité haptique d'une surface de grille linéaire par exploration active~\cite{lawrence2007haptic}. }[
\item Schéma d'une surface de grille linéaire, constituée de rainures et de crêtes.
\item Intensité perçue de la rugosité (axe vertical)de la surface en fonction de la taille des rainures (axe horizontal, intervalle de \qtyrange{0.125}{4.5}{mm}), de la taille des crêtes (RW, ronds et carrés) et du mode d'exploration (avec le doigt en blanc et via une sonde rigide tenue en main en noir).
] ]
\subfig[.49]{lawrence2007haptic_1} \subfigsheight{56mm}
\subfig[.49]{lawrence2007haptic_2} \subfig{lawrence2007haptic_1}
\subfig{lawrence2007haptic_2}
\end{subfigs}
Il est également possible possible de percevoir la rugosité d'une surface en la \emph{touchant indirectement}, avec un outil tenu en main, par exemple en écrivant avec un stylo sur du papier~\cite{klatzky2003feeling}.
La peau n'est alors plus déformée et seules les vibrations sont transmises par l'outil, mais cette information est suffisante pour percevoir la rugosité.
%La discrimination de la rugosité est cependant un peu moins bonne.
L'intensité perçue suit la même loi quadratique mais le pic de rugosité perçu varie avec la taille de la zone de contact de l'outil: un petit outil permettra de percevoir des espaces entre les éléments plus fins qu'avec le doigt (voir \figref{klatzky2003feeling_2}).
Cependant, la vitesse d'exploration changeant les vibrations transmises, une vitesse plus rapide décale le pic de rugosité à droite d'une part et, d'autre part, entraine une rugosité plus faible pour les espacements fins et plus forte pour les espacements larges~\cite{klatzky2003feeling}.
\begin{subfigs}{klatzky2003feeling}{Estimation de la rugosité haptique d'une surface de de micro-éléments coniques par exploration active~\cite{klatzky2003feeling}. }[
\item Micrographie électronique de la surface.
\item Intensité perçue de la rugosité (axe vertical) de la surface en fonction de l'espacement moyen des éléments (axe horizontal, intervalle de \qtyrange{0.8}{4.5}{mm}) et du mode d'exploration (avec le doigt en noir et via une sonde rigide tenue en main en blanc).
]
\subfig[.25]{klatzky2003feeling_1}
\subfig[.5]{klatzky2003feeling_2}
\end{subfigs}
Même quand les bouts de doigts sont déafférentés (absence de sensations donc d'indices de pression), la perception de la rugosité se maintient, justement grâce à la propagation des vibrations dans le doigt, la main et le poignet, que ce soit pour les textures de grilles et les textures naturelles~\cite{delhaye2012textureinduced}.
Le spectre des vibrations se décale vers de plus hautes fréquences quand la vitesse d'exploration augmente, mais le cerveau intègre ce changement avec la proprioception pour garder la \emph{perception constante} de la teture.
Par exemple, pour les textures de grilles, comme illustré \figref{delhaye2012textureinduced}, le ratio de la vitesse du doigt $v$ sur la fréquence fréquence du pic d'intensité de la vibration $f_p$ est mesuré la majorité du temps égal à la période $\lambda$ de l'espacement des éléments:
\begin{equation}
\label{eq:grating_vibrations}
\lambda \sim \frac{v}{f_p}
\end{equation}
De même, les vibrations générées par l'exploration des textures naturelles sont très spécifiques à chaque texture et similaires entre les individus, ce qui les rendent également identifiables aux seules vibrations~\cite{greenspon2020effect}.
Cela montre l'importance des indices de vibrations même pour les macro-textures et la possibilité générer des sensations de textures virtuelles avec des rendus vibrotactiles.
\fig[0.55]{delhaye2012textureinduced}{Mesures de la vitesse d'exploration du doigt (axe horizontal) sur des textures de grille avec différentes périodes $\lambda$ d'espacement (en couleur) et de la fréquence du pic d'intensité $f_p$ de la vibration propagée dans le poignet (axe vertical)~\cite{delhaye2012textureinduced}.}
Étudier la perception de rugosité de textures dites "naturelles", \ie de la vie de tous jours, est plus complexe car elles sont composées de multiples éléments de tailles et d'espacements différents.
Les deux perceptions de micro et macro rugosité se recouvrent en partie et peuvent donc être difficile à distinguer~\cite{okamoto2013psychophysical}.
Les individus vont avoir une définition subjective de la rugosité, certains prêtant plus d'attention aux plus gros éléments et d'autres aux plus petits~\cite{bergmanntiest2007haptic}, et inclure d'autres propriétés comme la dureté ou la friction~\cite{bergmanntiest2010tactual}.
\paragraph{Hardness}
La dureté (ou la softness) est la perception de la \emph{résistance à la déformation} d'un objet quand il est pressé ou tapé~\cite{bergmanntiest2010tactual}.
La softness perçue d'un fruit permet de juger sa maturité, alors que la céramique sera perçue comme dure.
En tapant une surface, du métal sera perçu comme plus dur que du bois.
Si la surface revient à sa forme initiale après avoir été déformée, l'objet est élastique (comme un ressort), sinon il est plastique (comme de l'argile).
Avec un mouvement de pression sur l'objet avec le doigt (voir \figref{exploratory_procedures}), sa surface va se déplacer et se déformer avec une certaine résistance, et la zone de contact de la peau va également s'élargir, changeant la distribution de la pression.
Au contact de la surface, ou en la tapant, des vibrations sont également transmises à la peau.
Un toucher passif (sans mouvements volontaire de la main) ainsi que le tapping permettent une aussi bonne perception de la dureté que le toucher actif~\cite{friedman2008magnitude}: les indices cutanés de pression et de vibrations sont suffisants et nécessaires pour percevoir la dureté.
Deux caractéristiques physiques de l'objet déterminent ainsi la perception haptique de dureté: sa raideur et son élasticité~\cite{bergmanntiest2010tactual}.
La raideur $k$ est le ratio entre la force appliquée $F$ et le \emph{déplacement} résultant $\Delta l$ de la surface:
\begin{equation}
\label{eq:stiffness}
k = \frac{F}{\Delta l}
\end{equation}
L'élasticité est exprimée par le module de Young $Y$ qui est le ratio entre la pression appliquée (la force $F$ par unité de surface $A$) et la \emph{déformation} résultante $\Delta l / l$ (càd le déplacement relatif) de l'objet:
\begin{equation}
\label{eq:young_modulus}
Y = \frac{F / A}{\Delta l / l}
\end{equation}
La \figre{hardness} illustre ces deux caractéristiques.
\textcite{bergmanntiest2009cues} ont montré le rôle de ces deux caractéristiques dans la perception de la dureté.
En pressant du doigt, une différence relative (la \emph{fraction de Weber}) de \percent{\sim 15} est nécessaire pour discriminer deux objets de raideurs ou d'élasticités différentes.
Cependant, en l'absence de sensations de pression (en plaçant un disque fin entre le doigt et l'objet), la différence relative nécessaire devient beaucoup plus importante (fraction de Weber de \percent{\sim 50}).
Ainsi, la perception de dureté s'appuie à \percent{90} sur les indices de déformation de la surface et à \percent{10} sur les indices de déplacement.
En pressant du doigt, l'intensité perçue (subjective) de dureté suit avec la raideur une relation selon une loi de puissance avec un exposant de \num{0.8}~\cite{harper1964subjective}, \ie quand la raideur double, la dureté perçue augmente de \num{1.7}.
Un objet avec une faible raideur mais une grand module de Young (et vice-versa) peut être perçu aussi dur qu'un objet avec une grande raideur mais un petit module de Young.
\textcite{bergmanntiest2009cues} ont ainsi observé une relation quadratique d'égale intensité perçue de dureté, comme illustré sur la \figref{bergmanntiest2009cues}.
\begin{subfigs}{stiffness_young}{Perception de la dureté haptique d'un objet en pressant avec le doigt. }[
\item Schéma d'un objet avec un coefficient de raideur $k$ et de longueur $l$ compressé sur une distance $\Delta l$ par une force $F$ sur une surface d'aire $A$.
\item Correspondance de l'intensité perçue de la dureté entre le module de Young (axe horizontal) et la raideur (axe vertical). Les lignes en pointillées et en tiret indiquent les objets testés, les flèches les correspondances faites entre ces objets, et les lignes grises les prédictions de la relation quadratique~\cite{bergmanntiest2009cues}.
]
\subfig[.3]{hardness}
\subfig[.45]{bergmanntiest2009cues}
\end{subfigs} \end{subfigs}
\paragraph{Stiffness} \paragraph{Friction}
La friction (ou la slipperiness/stickiness) est la perception de la \emph{résistance au mouvement} sur une surface~\cite{bergmanntiest2010tactual}.
Le papier de verre, en opposant une forte résistance au glissement à sa surface, est typiquement perçu comme adhésif, alors que du verre est glissant.
Cette propriété est perceptuellement étroitement liée à celle de la rugosité~\cite{hollins1993perceptual,baumgartner2013visual}.
En passant le doigt sur la surface avec un mouvement latéral (voir \figref{exploratory_procedures}), des frottements vont générer des forces qui vont dans le sens opposé au mouvement, donnant des indices kinesthésiques, et qui vont également étirer la peau, donnant des indices cutanés.
Comme illustré sur la \figref{smith1996subjective_1}, un phénomène de stick-slip peut également se produire, où le doigt va par intermittence être freiné par les frottements avant de continuer son mouvement, autant sur des surfaces rugueuses que lisses~\cite{derler2013stick}.
L'amplitude de la force de frottement $F_s$ est proportionnelle à la force normale du doigt $F_n$, \ie la force perpendiculaire à la surface, selon un coefficient de frottement $\mu$:
\begin{equation}
\label{eq:friction}
F_s = \mu \, F_n
\end{equation}
Comme sur la \figref{smith1996subjective_2}, l'intensité perçue (subjective) des frottements est proportionnelle au coefficient de friction~\cite{smith1996subjective}.
\begin{subfigs}{smith1996subjective}{Perception des frottements haptique de plusieurs matériaux par exploration active avec le doigt~\cite{smith1996subjective}. }[
\item Mesures des forces normales $F_n$ et tangentielles $F_t$ lors de l'exploration de deux surfaces : une lisse (le verre) et une rugueuse (le nyloprint). Les fluctuations de la force tangentielle sont dues au phénomène de stick-slip. Le coefficient de frottement $\mu$ peut être estimé par la pente de la relation entre les forces normales et tangentielle.
\item Intensité perçue des frottements (axe vertical) en fonction du coefficient de frottement $\mu$ estimé de l'exploration (axe horizontal) pour quatre matériaux (formes et couleurs).
]
\subfigsheight{55mm}
\subfig{smith1996subjective_1}
\subfig{smith1996subjective_2}
\end{subfigs}
Mais la perception de la friction est complexe car ce n'est pas seulement une propriété haptique de la surface.
Elle est, en effet, déterminée par les interactions à l'échelle micro entre la surface et la peau, et dépend donc de la force normale appliquée, de la vitesse du mouvement, de l'aire du contact et de l'humidité de la peau et de la surface~\cite{adams2013finger,messaoud2016relation}.
En ce sens, la perception de cette propriété est encore mal comprise~\cite{okamoto2013psychophysical}.
C'est pourtant une perception fondamentale pour la saisie et la manipulation d'objets : les forces de frottements permettent de tenir fermement l'objet en main pour éviter qu'il ne glisse, et la perception de la friction permet également d'ajuster automatiquement et très rapidement la force à appliquer à l'objet pour le saisir~\cite{johansson1984roles}.
Si le doigt est anesthésié, l'absence de sensations cutanées empêche d'ajuster efficacement la force de préhension: Les forces de l'objet sur le doigt ne sont plus correctement perçues et les doigts appuient alors plus fermement sur l'objet en compensation mais sans réaliser une bonne opposition des doigts~\cite{witney2004cutaneous}.
\paragraph{Temperature} \paragraph{Temperature}

View File

@@ -12,53 +12,20 @@ The first \AR \HMD was invented by \textcite{sutherland1968headmounted}: With th
% %
Fixed to the ceiling, the headset displayed a stereoscopic (one image per eye) perspective projection of the virtual content on a transparent screen, taking into account the user's position, and thus already following the interaction loop presented in \figref[introduction]{interaction-loop}. Fixed to the ceiling, the headset displayed a stereoscopic (one image per eye) perspective projection of the virtual content on a transparent screen, taking into account the user's position, and thus already following the interaction loop presented in \figref[introduction]{interaction-loop}.
\paragraph{A Definition of AR}
%
This system also already fulfilled the first formal definition of \AR, proposed by \textcite{azuma1997survey} in the first survey of the domain: (1) \emph{combine real and virtual}, (2) \emph{be interactive in real time} and (3) \emph{register real and virtual}\footnote{This third characteristic has been slightly adapted to use the version of \textcite{marchand2016pose}, the original definition was: \enquote{registered in \ThreeD}.}. This system also already fulfilled the first formal definition of \AR, proposed by \textcite{azuma1997survey} in the first survey of the domain: (1) \emph{combine real and virtual}, (2) \emph{be interactive in real time} and (3) \emph{register real and virtual}\footnote{This third characteristic has been slightly adapted to use the version of \textcite{marchand2016pose}, the original definition was: \enquote{registered in \ThreeD}.}.
% %
Each of these characteristics is essential: the real-virtual combination distinguishes \AR from \VR, a movie with integrated digital content is not interactive and a \TwoD overlay like an image filter is not registered. Each of these characteristics is essential: the real-virtual combination distinguishes \AR from \VR, a movie with integrated digital content is not interactive and a \TwoD overlay like an image filter is not registered.
% %
There are also two key aspects to this definition: it does not focus on technology or method, but on the user's perspective of the system experience, and it does not specify a particular human sense, \ie it can be auditory~\cite{yang2022audio}, haptic~\cite{bhatia2024augmenting}, or even olfactory~\cite{brooks2021stereosmell} or gustatory~\cite{brooks2023taste}. There are also two key aspects to this definition: it does not focus on technology or method, but on the user's perspective of the system experience, and it does not specify a particular human sense, \ie it can be auditory~\cite{yang2022audio}, haptic~\cite{bhatia2024augmenting}, or even olfactory~\cite{brooks2021stereosmell} or gustatory~\cite{brooks2023taste}.
% %
Yet, most of the research have focused on visual augmentations, and the term \AR (without a prefix) is almost always understood as visual \AR (\v-\AR). Yet, most of the research have focused on visual augmentations, and the term \AR (without a prefix) is almost always understood as \v-\AR.
\paragraph{On Presence}
%
Despite this clear and acknowledged definition and the viewpoint of this thesis that \AR and \VR are two type of \MR experience with different levels of mixing real and virtual environments, as presented in \secref[introduction]{visuo_haptic_augmentations}, there is still a debate on defining \AR and \MR as well as how to characterize and categorized such experiences~\cite{speicher2019what,skarbez2021revisiting}.
\emph{Presence} is one of the key concept to characterize a \VR experience.
%
\AR and \VR are both essentially illusions as the virtual content does not physically exist but is just digitally simulated and rendered to the user's perception through a user interface and the user's senses.
%
Such experience of disbelief suspension in \VR is what is called presence, and it can be decomposed into two dimensions: \PI and \PSI~\cite{slater2009place}.
%
\PI is the sense of the user of \enquote{being there} in the \VE, and it emerges from the real time rendering of the \VE from the user's perspective, the displayed content conforming and being consistent with the proprioception and actions of the user.
%
\PSI is the illusion that the virtual events are really happening, even if the user knows that they are not real.
%
It doesn't mean that the virtual events are realistic, but that they are plausible and coherent with the user's expectations.
%
A third strong illusion in \VR is the \SoE, which is the illusion that the virtual body is one's own~\cite{slater2022separate,guy2023sense}.
The \AR presence is far less defined and studied than for \VR~\cite{tran2024survey}, but it will be useful to design, evaluate and discuss our contributions in the next chapters.
%
Thereby, \textcite{slater2022separate} proposed to invert \PI as bring the virtual into the physical world, \ie \enquote{place it here}.
%
As with VR, \VOs must be able to be seen from different angles by moving the head but also, this is more difficult, be consistent with the \RE, \eg occlude or be occluded by real objects~\cite{macedo2023occlusion}, cast shadows or reflect lights.
%
The \PSI can be applied to \AR as is, but the \VOs must additionally have knowledge of the \RE and react accordingly to it.
%
\textcite{skarbez2021revisiting} also named \PI for \AR as \enquote{immersion} and \PSI as \enquote{coherence}, and these terms will be used in the remainder of this thesis.
%
Finally, as presence, \SoE in \AR is a recent topic and little is known about its perception on the user experience~\cite{genay2021virtual}.
%For example, \textcite{milgram1994taxonomy} proposed a taxonomy of \MR experiences based on the degree of mixing real and virtual environments, and \textcite{skarbez2021revisiting} revisited this taxonomy to include the user's perception of the experience. %For example, \textcite{milgram1994taxonomy} proposed a taxonomy of \MR experiences based on the degree of mixing real and virtual environments, and \textcite{skarbez2021revisiting} revisited this taxonomy to include the user's perception of the experience.
% debate on the definition of AR % debate on the definition of AR
% big brother VR and issue with presence/plausibility in AR (Slater)
% taxonomy of Milgram/Skarbez % taxonomy of Milgram/Skarbez
\paragraph{Applications} \subsubsection{Applications}
% %
Advances in technology, research and development have enabled many usages of \AR, including medicine, education, industrial, navigation, collaboration and entertainment applications~\cite{dey2018systematic}. Advances in technology, research and development have enabled many usages of \AR, including medicine, education, industrial, navigation, collaboration and entertainment applications~\cite{dey2018systematic}.
% %
@@ -84,21 +51,44 @@ Most of \AR/\VR experience can now be implemented with commercially available ha
\subfig{roo2017inner} \subfig{roo2017inner}
\end{subfigs} \end{subfigs}
\subsubsection{How does AR work?}
% How it works briefly \subsubsection{Displays}
\paragraph{Calibrating \& Tracking}
% \cite{marchand2016pose}
\paragraph{Modeling \& Rendering}
\paragraph{Displays}
% Bimber and types of AR % Bimber and types of AR
% State of current HMD % State of current HMD
\subsubsection{On Presence and Embodiment}
Despite this clear and acknowledged definition and the viewpoint of this thesis that \AR and \VR are two type of \MR experience with different levels of mixing real and virtual environments, as presented in \secref[introduction]{visuo_haptic_augmentations}, there is still a debate on defining \AR and \MR as well as how to characterize and categorized such experiences~\cite{speicher2019what,skarbez2021revisiting}.
\emph{Presence} is one of the key concept to characterize a \VR experience.
%
\AR and \VR are both essentially illusions as the virtual content does not physically exist but is just digitally simulated and rendered to the user's perception through a user interface and the user's senses.
%
Such experience of disbelief suspension in \VR is what is called presence, and it can be decomposed into two dimensions: \PI and \PSI~\cite{slater2009place}.
%
\PI is the sense of the user of \enquote{being there} in the \VE, and it emerges from the real time rendering of the \VE from the user's perspective, the displayed content conforming and being consistent with the proprioception and actions of the user.
%
\PSI is the illusion that the virtual events are really happening, even if the user knows that they are not real.
%
It doesn't mean that the virtual events are realistic, but that they are plausible and coherent with the user's expectations.
%
A third strong illusion in \VR is the \SoE, which is the illusion that the virtual body is one's own~\cite{slater2022separate,guy2023sense}.
The \AR presence is far less defined and studied than for \VR~\cite{tran2024survey}, but it will be useful to design, evaluate and discuss our contributions in the next chapters.
%
Thereby, \textcite{slater2022separate} proposed to invert \PI as bring the virtual into the physical world, \ie \enquote{place it here}.
%
As with VR, \VOs must be able to be seen from different angles by moving the head but also, this is more difficult, be consistent with the \RE, \eg occlude or be occluded by real objects~\cite{macedo2023occlusion}, cast shadows or reflect lights.
%
The \PSI can be applied to \AR as is, but the \VOs must additionally have knowledge of the \RE and react accordingly to it.
%
\textcite{skarbez2021revisiting} also named \PI for \AR as \enquote{immersion} and \PSI as \enquote{coherence}, and these terms will be used in the remainder of this thesis.
As presence, \SoE in \AR is a recent topic and little is known about its perception on the user experience~\cite{genay2021virtual}.
\subsection{How Virtual is Perceived in AR} \subsection{How Virtual is Perceived in AR}
\label{ar_perception} \label{ar_perception}

Binary file not shown.

Binary file not shown.

Binary file not shown.

Before

Width:  |  Height:  |  Size: 63 KiB

After

Width:  |  Height:  |  Size: 44 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 103 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 76 KiB

View File

@@ -2378,3 +2378,119 @@
pages = {401--408}, pages = {401--408},
doi = {10/cbxns3} doi = {10/cbxns3}
} }
@article{delhaye2012textureinduced,
title = {Texture-Induced Vibrations in the Forearm during Tactile Exploration},
author = {Delhaye, Benoit and Hayward, Vincent and Lefèvre, Philippe and Thonnard, Jean-Louis},
date = {2012},
journaltitle = {Front. Behav. Neurosci.},
volume = {6},
doi = {10/gt76tv}
}
@article{dallmann2015role,
title = {The Role of Vibration in Tactile Speed Perception},
author = {Dallmann, Chris J. and Ernst, Marc O. and Moscatelli, Alessandro},
date = {2015},
journaltitle = {J. Neurophysiol.},
volume = {114},
number = {6},
pages = {3131--3139},
doi = {10/f747vn}
}
@article{bergmanntiest2009tactile,
title = {Tactile Perception of Thermal Diffusivity},
author = {Bergmann Tiest, Wouter M. and Kappers, Astrid M. L.},
date = {2009},
journaltitle = {Atten. Percept. Psychophys.},
volume = {71},
number = {3},
pages = {481--489},
doi = {10/bw9zc2}
}
@article{bergmanntiest2008thermosensory,
title = {Thermosensory Reversal Effect Quantified},
author = {Bergmann Tiest, Wouter M. and Kappers, Astrid M.L.},
date = {2008},
journaltitle = {Acta Psychol. (Amst.)},
volume = {127},
number = {1},
pages = {46--50},
doi = {10/ctnmzj}
}
@article{ho2006contribution,
title = {Contribution of Thermal Cues to Material Discrimination and Localization},
author = {Ho, Hsin-Ni and Jones, Lynette A.},
date = {2006},
journaltitle = {Percept. Psychophys.},
volume = {68},
number = {1},
pages = {118--128},
doi = {10/bfg5bm}
}
@article{johansson1984roles,
title = {Roles of Glabrous Skin Receptors and Sensorimotor Memory in Automatic Control of Precision Grip When Lifting Rougher or More Slippery Objects},
author = {Johansson, R.S. and Westling, G.},
date = {1984},
journaltitle = {Exp. Brain Res.},
volume = {56},
number = {3},
doi = {10/d4j5jz}
}
@article{witney2004cutaneous,
title = {The Cutaneous Contribution to Adaptive Precision Grip},
author = {Witney, Alice G. and Wing, Alan and Thonnard, Jean-Louis and Smith, Allan M.},
date = {2004},
journaltitle = {Trends Neurosci.},
volume = {27},
number = {10},
pages = {637--643},
doi = {10/b76sh7}
}
@article{smith1996subjective,
title = {Subjective Scaling of Smooth Surface Friction},
author = {Smith, A. M. and Scott, S. H.},
date = {1996},
journaltitle = {J. Neurophysiol.},
volume = {75},
number = {5},
pages = {1957--1962},
doi = {10/gt9fwt}
}
@article{adams2013finger,
title = {Finger Pad Friction and Its Role in Grip and Touch},
author = {Adams, Michael J. and Johnson, Simon A. and Lefèvre, Philippe and Lévesque, Vincent and Hayward, Vincent and André, Thibaut and Thonnard, Jean-Louis},
date = {2013},
journaltitle = {J. R. Soc. Interface},
volume = {10},
number = {80},
doi = {10/gg6ths}
}
@article{derler2013stick,
title = {StickSlip Phenomena in the Friction of Human Skin},
author = {Derler, S. and Rotaru, G.-M.},
date = {2013},
journaltitle = {Wear},
volume = {301},
number = {1-2},
pages = {324--329},
doi = {10/f45z4n}
}
@article{messaoud2016relation,
title = {Relation between Human Perceived Friction and Finger Friction Characteristics},
author = {Messaoud, Wael Ben and Bueno, Marie-Ange and Lemaire-Semail, Betty},
date = {2016},
journaltitle = {Tribol. Int.},
volume = {98},
pages = {261--269},
doi = {10/f8nr2s}
}