Este guia para desenvolvedores mostra as etapas para permitir que seu app alterne com facilidade entre o controle exclusivo da câmera pela API Android Camera2 e o compartilhamento do acesso à câmera com o ARCore.
Neste tópico, presumimos que você:
Concluir o guia de início rápido do ARCore.
Conhecer a API Android Camera2. Consulte o exemplo Camera2 específico do Android para saber mais.
Criar e executar o aplicativo de exemplo
Quando você cria e executa o app de exemplo Shared Camera Java, ele cria uma sessão do ARCore que oferece suporte ao acesso compartilhado à câmera. O app é iniciado no modo não RA, com o ARCore pausado.
Quando o app opera no modo não RA, o visualizador da câmera mostra um efeito de cor sépia. Ao alternar para o modo RA, o efeito sépia é desativado quando o app retorna o controle da câmera para o ARCore retomando a sessão pausada.
Use o botão de RA no app para trocar de modo. Durante a visualização, os dois modos mostram o número de frames contínuos capturados pelo Camera2.
Para criar e executar o app de exemplo Java da câmera compartilhada:
Faça o download e extraia o SDK do ARCore do Google para Android.
Abra o projeto
samples/shared_camera_java
.Verifique se o dispositivo Android está conectado à máquina de desenvolvimento via USB. Consulte Dispositivos compatíveis com o ARCore para mais informações.
No Android Studio, clique em Run .
Escolha seu dispositivo como o destino de implantação e clique em OK para iniciar o app de exemplo no dispositivo.
No dispositivo, confirme que você quer permitir que o app tire fotos e grave vídeos.
Se solicitado, atualize ou instale a versão mais recente do ARCore.
Use o interruptor AR para alternar entre os modos não RA e RA.
Visão geral de como permitir que um app compartilhe o acesso à câmera com o ARCore
Siga estas etapas para implementar o acesso compartilhado à câmera com o ARCore no seu app.
Todos os snippets de código estão disponíveis no
SharedCameraActivity.java
na amostra
shared_camera_java
(links em inglês).
Solicitar permissão CAMERA
Para usar a câmera do dispositivo, o usuário
precisa conceder ao app a permissão CAMERA
.
As amostras do ARCore incluem um CameraPermissionHelper
,
que fornece utilitários para solicitar a permissão correta para seu app.
Java
protected void onResume() {
// Request the camera permission, if necessary.
if (!CameraPermissionHelper.hasCameraPermission(this)) {
CameraPermissionHelper.requestCameraPermission(this);
}
}
Kotlin
override fun onResume() {
// Request the camera permission, if necessary.
if (!CameraPermissionHelper.hasCameraPermission(this)) {
CameraPermissionHelper.requestCameraPermission(this)
}
}
Verifique se o ARCore está instalado e atualizado
O ARCore precisa estar instalado e atualizado para ser usado. O snippet a seguir mostra como solicitar uma instalação do ARCore se ele ainda não tiver sido instalado no dispositivo.
Java
boolean isARCoreSupportedAndUpToDate() {
// Make sure that ARCore is installed and supported on this device.
ArCoreApk.Availability availability = ArCoreApk.getInstance().checkAvailability(this);
switch (availability) {
case SUPPORTED_INSTALLED:
return true;
case SUPPORTED_APK_TOO_OLD:
case SUPPORTED_NOT_INSTALLED:
// Requests an ARCore installation or updates ARCore if needed.
ArCoreApk.InstallStatus installStatus = ArCoreApk.getInstance().requestInstall(this, userRequestedInstall);
switch (installStatus) {
case INSTALL_REQUESTED:
return false;
case INSTALLED:
return true;
}
return false;
default:
// Handle the error. For example, show the user a snackbar that tells them
// ARCore is not supported on their device.
return false;
}
}
Kotlin
// Determine ARCore installation status.
// Requests an ARCore installation or updates ARCore if needed.
fun isARCoreSupportedAndUpToDate(): Boolean {
when (ArCoreApk.getInstance().checkAvailability(this)) {
Availability.SUPPORTED_INSTALLED -> return true
Availability.SUPPORTED_APK_TOO_OLD,
Availability.SUPPORTED_NOT_INSTALLED -> {
when(ArCoreApk.getInstance().requestInstall(this, userRequestedInstall)) {
InstallStatus.INSTALLED -> return true
else -> return false
}
}
else -> {
// Handle the error. For example, show the user a snackbar that tells them
// ARCore is not supported on their device.
return false
}
}
}
Criar uma sessão do ARCore compatível com o compartilhamento da câmera
Isso envolve a criação da sessão e o armazenamento da referência e do ID da câmera compartilhada do ARCore:
Java
// Create an ARCore session that supports camera sharing.
sharedSession = new Session(this, EnumSet.of(Session.Feature.SHARED_CAMERA))
// Store the ARCore shared camera reference.
sharedCamera = sharedSession.getSharedCamera();
// Store the ID of the camera that ARCore uses.
cameraId = sharedSession.getCameraConfig().getCameraId();
Kotlin
// Create an ARCore session that supports camera sharing.
sharedSession = Session(this, EnumSet.of(Session.Feature.SHARED_CAMERA))
// Store the ARCore shared camera reference.
sharedCamera = sharedSession.sharedCamera
// Store the ID of the camera that ARCore uses.
cameraId = sharedSession.cameraConfig.cameraId
(Opcional) Informar o ARCore sobre qualquer plataforma personalizada
A solicitação de mais plataformas personalizadas aumenta as demandas de desempenho do dispositivo. Para garantir que ele tenha um bom desempenho, teste o app nos dispositivos que os usuários vão usar.
Por padrão, o ARCore solicita dois streams:
- 1x fluxo de CPU YUV, atualmente sempre
640x480
.
O ARCore usa esse stream para rastreamento de movimento. - Um stream de GPU 1x, normalmente
1920x1080
UseSession#getCameraConfig()
para determinar a resolução atual do stream da GPU.
É possível mudar a resolução do stream da GPU em dispositivos com suporte usando
getSupportedCameraConfigs()
e
setCameraConfig()
.
Como indicador aproximado, você pode esperar:
Tipo de dispositivo | Compatível com streams simultâneos |
---|---|
Smartphones de última geração |
|
Telefones de nível médio |
|
Para usar superfícies personalizadas, como uma superfície de leitor de imagens da CPU, adicione-a
à lista de superfícies que precisam ser atualizadas
(por exemplo, uma ImageReader
).
Java
sharedCamera.setAppSurfaces(this.cameraId, Arrays.asList(imageReader.getSurface()));
Kotlin
sharedCamera.setAppSurfaces(this.cameraId, listOf(imageReader.surface))
Abrir a câmera
Abra a câmera usando um callback encapsulado no ARCore:
Java
// Wrap the callback in a shared camera callback.
CameraDevice.StateCallback wrappedCallback =
sharedCamera.createARDeviceStateCallback(cameraDeviceCallback, backgroundHandler);
// Store a reference to the camera system service.
cameraManager = (CameraManager) this.getSystemService(Context.CAMERA_SERVICE);
// Open the camera device using the ARCore wrapped callback.
cameraManager.openCamera(cameraId, wrappedCallback, backgroundHandler);
Kotlin
// Wrap the callback in a shared camera callback.
val wrappedCallback = sharedCamera.createARDeviceStateCallback(cameraDeviceCallback, backgroundHandler)
// Store a reference to the camera system service.
val cameraManager = this.getSystemService(Context.CAMERA_SERVICE) as CameraManager
// Open the camera device using the ARCore wrapped callback.
cameraManager.openCamera(cameraId, wrappedCallback, backgroundHandler)
Usar o callback de estado do dispositivo da câmera
No callback de estado do dispositivo da câmera, armazene uma referência a ele e inicie uma nova sessão de captura.
Java
public void onOpened(@NonNull CameraDevice cameraDevice) {
Log.d(TAG, "Camera device ID " + cameraDevice.getId() + " opened.");
SharedCameraActivity.this.cameraDevice = cameraDevice;
createCameraPreviewSession();
}
Kotlin
fun onOpened(cameraDevice: CameraDevice) {
Log.d(TAG, "Camera device ID " + cameraDevice.id + " opened.")
this.cameraDevice = cameraDevice
createCameraPreviewSession()
}
Criar uma nova sessão de captura
Crie uma nova solicitação de captura. Use TEMPLATE_RECORD
para garantir que a solicitação de captura seja compatível com o ARCore e para permitir a alternância
perfeita entre os modos não RA e RA no momento da execução.
Java
void createCameraPreviewSession() {
try {
// Create an ARCore-compatible capture request using `TEMPLATE_RECORD`.
previewCaptureRequestBuilder =
cameraDevice.createCaptureRequest(CameraDevice.TEMPLATE_RECORD);
// Build a list of surfaces, starting with ARCore provided surfaces.
List<Surface> surfaceList = sharedCamera.getArCoreSurfaces();
// (Optional) Add a CPU image reader surface.
surfaceList.add(cpuImageReader.getSurface());
// The list should now contain three surfaces:
// 0. sharedCamera.getSurfaceTexture()
// 1. …
// 2. cpuImageReader.getSurface()
// Add ARCore surfaces and CPU image surface targets.
for (Surface surface : surfaceList) {
previewCaptureRequestBuilder.addTarget(surface);
}
// Wrap our callback in a shared camera callback.
CameraCaptureSession.StateCallback wrappedCallback =
sharedCamera.createARSessionStateCallback(cameraSessionStateCallback, backgroundHandler);
// Create a camera capture session for camera preview using an ARCore wrapped callback.
cameraDevice.createCaptureSession(surfaceList, wrappedCallback, backgroundHandler);
} catch (CameraAccessException e) {
Log.e(TAG, "CameraAccessException", e);
}
}
Kotlin
fun createCameraPreviewSession() {
try {
// Create an ARCore-compatible capture request using `TEMPLATE_RECORD`.
previewCaptureRequestBuilder = cameraDevice.createCaptureRequest(CameraDevice.TEMPLATE_RECORD)
// Build a list of surfaces, starting with ARCore provided surfaces.
val surfaceList: MutableList<Surface> = sharedCamera.arCoreSurfaces
// (Optional) Add a CPU image reader surface.
surfaceList.add(cpuImageReader.getSurface())
// The list should now contain three surfaces:
// 0. sharedCamera.getSurfaceTexture()
// 1. …
// 2. cpuImageReader.getSurface()
// Add ARCore surfaces and CPU image surface targets.
for (surface in surfaceList) {
previewCaptureRequestBuilder.addTarget(surface)
}
// Wrap the callback in a shared camera callback.
val wrappedCallback = sharedCamera.createARSessionStateCallback(cameraSessionStateCallback, backgroundHandler)
// Create a camera capture session for camera preview using an ARCore wrapped callback.
cameraDevice.createCaptureSession(surfaceList, wrappedCallback, backgroundHandler)
} catch (e: CameraAccessException) {
Log.e(TAG, "CameraAccessException", e)
}
}
Iniciar no modo não RA ou RA
Para começar a capturar frames, chame captureSession.setRepeatingRequest()
no callback do estado onConfigured()
da sessão de captura da câmera.
Retome a sessão do ARCore no callback onActive()
para iniciar no modo RA.
Java
// Repeating camera capture session state callback.
CameraCaptureSession.StateCallback cameraSessionStateCallback =
new CameraCaptureSession.StateCallback() {
// Called when ARCore first configures the camera capture session after
// initializing the app, and again each time the activity resumes.
@Override
public void onConfigured(@NonNull CameraCaptureSession session) {
captureSession = session;
setRepeatingCaptureRequest();
}
@Override
public void onActive(@NonNull CameraCaptureSession session) {
if (arMode && !arcoreActive) {
resumeARCore();
}
}
};
// A repeating camera capture session capture callback.
CameraCaptureSession.CaptureCallback cameraCaptureCallback =
new CameraCaptureSession.CaptureCallback() {
@Override
public void onCaptureCompleted(…) {
shouldUpdateSurfaceTexture.set(true);
}
};
void setRepeatingCaptureRequest() {
captureSession.setRepeatingRequest(
previewCaptureRequestBuilder.build(), cameraCaptureCallback, backgroundHandler);
}
void resumeARCore() {
// Resume ARCore.
sharedSession.resume();
arcoreActive = true;
// Set the capture session callback while in AR mode.
sharedCamera.setCaptureCallback(cameraCaptureCallback, backgroundHandler);
}
Kotlin
val cameraSessionStateCallback = object : CameraCaptureSession.StateCallback() {
// Called when ARCore first configures the camera capture session after
// initializing the app, and again each time the activity resumes.
override fun onConfigured(session: CameraCaptureSession) {
captureSession = session
setRepeatingCaptureRequest()
}
override fun onActive(session: CameraCaptureSession) {
if (arMode && !arcoreActive) {
resumeARCore()
}
}
}
val cameraCaptureCallback = object : CameraCaptureSession.CaptureCallback() {
override fun onCaptureCompleted(
session: CameraCaptureSession,
request: CaptureRequest,
result: TotalCaptureResult
) {
shouldUpdateSurfaceTexture.set(true);
}
}
fun setRepeatingCaptureRequest() {
captureSession.setRepeatingRequest(
previewCaptureRequestBuilder.build(), cameraCaptureCallback, backgroundHandler
)
}
fun resumeARCore() {
// Resume ARCore.
sharedSession.resume()
arcoreActive = true
// Set the capture session callback while in AR mode.
sharedCamera.setCaptureCallback(cameraCaptureCallback, backgroundHandler)
}
Alterne facilmente entre os modos não RA ou RA durante a execução
Para alternar do modo de não RA para o RA e retomar uma sessão pausada do ARCore:
Java
// Resume the ARCore session.
resumeARCore();
Kotlin
// Resume the ARCore session.
resumeARCore()
Para alternar do modo de RA para o modo não RA:
Java
// Pause ARCore.
sharedSession.pause();
// Create the Camera2 repeating capture request.
setRepeatingCaptureRequest();
Kotlin
// Pause ARCore.
sharedSession.pause()
// Create the Camera2 repeating capture request.
setRepeatingCaptureRequest()