HandleUtility.DistanceToCube

Возвращает расстояние в пикселях от указателя мыши до куба.

Вычисляет расстояние экрана от указателя мыши до куба в данном пространстве мира position с заданными rotation и size.

Возвращает нуль, когда указатель мыши находится прямо над кубом.

Использует текущую камеру для определения расстояния.

using UnityEngine;
using UnityEditor;

public class ExampleScript : MonoBehaviour
{
}

// Displays cube in scene view, and distance from mouse
// to the cube.
[CustomEditor(typeof(ExampleScript))]
public class ExampleEditor : Editor
{
    public void OnSceneGUI()
    {
        var t = target as ExampleScript;
        var tr = t.transform;
        var position = tr.position;
        var rotation = tr.rotation;
        var size = 1.0f;
        // draw a cube in scene
        Handles.color = Color.yellow;
        Handles.CubeHandleCap(0, position, rotation, size, Event.current.type);
        // calculate distance from mouse to cube, and display it
        var distance = HandleUtility.DistanceToCube(position, rotation, size);
        GUI.color = Color.black;
        Handles.Label(position, distance.ToString("F0"));
        // make scene view repaint on mouse move
        if (Event.current.type == EventType.MouseMove)
            Event.current.Use();
    }
}

.

Дополнительные ресурсы: DistanceToCircle, DistanceToCone, DistanceToLine.