Drop support for submit_* ops
Signed-off-by: Robert Baldyga <robert.baldyga@huawei.com>
This commit is contained in:
parent
bc7710fb7d
commit
5820e17e21
@ -192,42 +192,6 @@ uint32_t cas_io_iter_zero(struct bio_vec_iter *dst, uint32_t bytes)
|
|||||||
return zeroed;
|
return zeroed;
|
||||||
}
|
}
|
||||||
|
|
||||||
/*
|
|
||||||
*
|
|
||||||
*/
|
|
||||||
int cas_blk_io_set_data(struct ocf_io *io,
|
|
||||||
ctx_data_t *ctx_data, uint32_t offset)
|
|
||||||
{
|
|
||||||
struct blkio *blkio = cas_io_to_blkio(io);
|
|
||||||
struct blk_data *data = ctx_data;
|
|
||||||
|
|
||||||
/* Set BIO vector (IO data) and initialize iterator */
|
|
||||||
blkio->data = data;
|
|
||||||
if (blkio->data) {
|
|
||||||
cas_io_iter_init(&blkio->iter, blkio->data->vec,
|
|
||||||
blkio->data->size);
|
|
||||||
|
|
||||||
/* Move into specified offset in BIO vector iterator */
|
|
||||||
if (offset != cas_io_iter_move(&blkio->iter, offset)) {
|
|
||||||
/* TODO Log message */
|
|
||||||
blkio->error = -ENOBUFS;
|
|
||||||
return -ENOBUFS;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
return 0;
|
|
||||||
}
|
|
||||||
|
|
||||||
/*
|
|
||||||
*
|
|
||||||
*/
|
|
||||||
ctx_data_t *cas_blk_io_get_data(struct ocf_io *io)
|
|
||||||
{
|
|
||||||
struct blkio *blkio = cas_io_to_blkio(io);
|
|
||||||
|
|
||||||
return blkio->data;
|
|
||||||
}
|
|
||||||
|
|
||||||
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol, struct block_device *bdev)
|
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol, struct block_device *bdev)
|
||||||
{
|
{
|
||||||
struct bd_object *bdobj;
|
struct bd_object *bdobj;
|
||||||
|
@ -1,5 +1,6 @@
|
|||||||
/*
|
/*
|
||||||
* Copyright(c) 2012-2022 Intel Corporation
|
* Copyright(c) 2012-2022 Intel Corporation
|
||||||
|
* Copyright(c) 2024 Huawei Technologies
|
||||||
* SPDX-License-Identifier: BSD-3-Clause
|
* SPDX-License-Identifier: BSD-3-Clause
|
||||||
*/
|
*/
|
||||||
|
|
||||||
@ -9,27 +10,6 @@
|
|||||||
#include "obj_blk.h"
|
#include "obj_blk.h"
|
||||||
#include "context.h"
|
#include "context.h"
|
||||||
|
|
||||||
struct blkio {
|
|
||||||
int error;
|
|
||||||
atomic_t rq_remaning;
|
|
||||||
atomic_t ref_counter;
|
|
||||||
int32_t dir;
|
|
||||||
|
|
||||||
struct blk_data *data; /* IO data buffer */
|
|
||||||
|
|
||||||
/* BIO vector iterator for sending IO */
|
|
||||||
struct bio_vec_iter iter;
|
|
||||||
};
|
|
||||||
|
|
||||||
static inline struct blkio *cas_io_to_blkio(struct ocf_io *io)
|
|
||||||
{
|
|
||||||
return ocf_io_get_priv(io);
|
|
||||||
}
|
|
||||||
|
|
||||||
int cas_blk_io_set_data(struct ocf_io *io, ctx_data_t *data,
|
|
||||||
uint32_t offset);
|
|
||||||
ctx_data_t *cas_blk_io_get_data(struct ocf_io *io);
|
|
||||||
|
|
||||||
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol,
|
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol,
|
||||||
struct block_device *bdev);
|
struct block_device *bdev);
|
||||||
void cas_blk_close_volume(ocf_volume_t vol);
|
void cas_blk_close_volume(ocf_volume_t vol);
|
||||||
|
@ -105,211 +105,6 @@ static inline struct bio *cas_bd_io_alloc_bio(struct block_device *bdev,
|
|||||||
return cas_bio_alloc(bdev, GFP_NOIO, MAX_LINES_PER_IO);
|
return cas_bio_alloc(bdev, GFP_NOIO, MAX_LINES_PER_IO);
|
||||||
}
|
}
|
||||||
|
|
||||||
/*
|
|
||||||
*
|
|
||||||
*/
|
|
||||||
static void cas_bd_io_end(struct ocf_io *io, int error)
|
|
||||||
{
|
|
||||||
struct blkio *bdio = cas_io_to_blkio(io);
|
|
||||||
|
|
||||||
if (error)
|
|
||||||
bdio->error |= error;
|
|
||||||
|
|
||||||
if (atomic_dec_return(&bdio->rq_remaning))
|
|
||||||
return;
|
|
||||||
|
|
||||||
CAS_DEBUG_MSG("Completion");
|
|
||||||
|
|
||||||
/* Send completion to caller */
|
|
||||||
io->end(io, bdio->error);
|
|
||||||
}
|
|
||||||
|
|
||||||
/*
|
|
||||||
*
|
|
||||||
*/
|
|
||||||
CAS_DECLARE_BLOCK_CALLBACK(cas_bd_io_end, struct bio *bio,
|
|
||||||
unsigned int bytes_done, int error)
|
|
||||||
{
|
|
||||||
struct ocf_io *io;
|
|
||||||
struct blkio *bdio;
|
|
||||||
struct bd_object *bdobj;
|
|
||||||
int err;
|
|
||||||
|
|
||||||
BUG_ON(!bio);
|
|
||||||
BUG_ON(!bio->bi_private);
|
|
||||||
CAS_BLOCK_CALLBACK_INIT(bio);
|
|
||||||
io = bio->bi_private;
|
|
||||||
bdobj = bd_object(ocf_io_get_volume(io));
|
|
||||||
BUG_ON(!bdobj);
|
|
||||||
err = CAS_BLOCK_CALLBACK_ERROR(bio, error);
|
|
||||||
bdio = cas_io_to_blkio(io);
|
|
||||||
BUG_ON(!bdio);
|
|
||||||
|
|
||||||
CAS_DEBUG_TRACE();
|
|
||||||
|
|
||||||
if (err == -EOPNOTSUPP && (CAS_BIO_OP_FLAGS(bio) & CAS_BIO_DISCARD))
|
|
||||||
err = 0;
|
|
||||||
|
|
||||||
cas_bd_io_end(io, err);
|
|
||||||
|
|
||||||
bio_put(bio);
|
|
||||||
CAS_BLOCK_CALLBACK_RETURN();
|
|
||||||
}
|
|
||||||
|
|
||||||
static void block_dev_submit_flush(struct ocf_io *io)
|
|
||||||
{
|
|
||||||
struct blkio *blkio = cas_io_to_blkio(io);
|
|
||||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
|
||||||
struct block_device *bdev = bdobj->btm_bd;
|
|
||||||
struct request_queue *q = bdev_get_queue(bdev);
|
|
||||||
struct bio *bio = NULL;
|
|
||||||
|
|
||||||
/* Prevent races of completing IO */
|
|
||||||
atomic_set(&blkio->rq_remaning, 1);
|
|
||||||
|
|
||||||
if (q == NULL) {
|
|
||||||
/* No queue, error */
|
|
||||||
blkio->error = -EINVAL;
|
|
||||||
goto out;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (!CAS_CHECK_QUEUE_FLUSH(q)) {
|
|
||||||
/* This block device does not support flush, call back */
|
|
||||||
goto out;
|
|
||||||
}
|
|
||||||
|
|
||||||
bio = cas_bio_alloc(bdev, GFP_NOIO, 0);
|
|
||||||
if (bio == NULL) {
|
|
||||||
CAS_PRINT_RL(KERN_ERR "Couldn't allocate memory for BIO\n");
|
|
||||||
blkio->error = -ENOMEM;
|
|
||||||
goto out;
|
|
||||||
}
|
|
||||||
|
|
||||||
blkio->dir = io->dir;
|
|
||||||
|
|
||||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
|
||||||
CAS_BIO_SET_DEV(bio, bdev);
|
|
||||||
bio->bi_private = io;
|
|
||||||
|
|
||||||
atomic_inc(&blkio->rq_remaning);
|
|
||||||
cas_submit_bio(CAS_SET_FLUSH(io->dir), bio);
|
|
||||||
|
|
||||||
out:
|
|
||||||
cas_bd_io_end(io, blkio->error);
|
|
||||||
}
|
|
||||||
|
|
||||||
static void block_dev_submit_discard(struct ocf_io *io)
|
|
||||||
{
|
|
||||||
struct blkio *blkio = cas_io_to_blkio(io);
|
|
||||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
|
||||||
struct block_device *bd = bdobj->btm_bd;
|
|
||||||
struct request_queue *q = bdev_get_queue(bd);
|
|
||||||
struct bio *bio = NULL;
|
|
||||||
|
|
||||||
unsigned int max_discard_sectors, granularity, bio_sects;
|
|
||||||
int alignment;
|
|
||||||
sector_t sects, start, end, tmp;
|
|
||||||
|
|
||||||
/* Prevent races of completing IO */
|
|
||||||
atomic_set(&blkio->rq_remaning, 1);
|
|
||||||
|
|
||||||
if (!q) {
|
|
||||||
/* No queue, error */
|
|
||||||
blkio->error = -ENXIO;
|
|
||||||
goto out;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (!cas_has_discard_support(bd)) {
|
|
||||||
/* Discard is not supported by bottom device, send completion
|
|
||||||
* to caller
|
|
||||||
*/
|
|
||||||
goto out;
|
|
||||||
}
|
|
||||||
|
|
||||||
granularity = max(q->limits.discard_granularity >> SECTOR_SHIFT, 1U);
|
|
||||||
alignment = (bdev_discard_alignment(bd) >> SECTOR_SHIFT) % granularity;
|
|
||||||
max_discard_sectors =
|
|
||||||
min(q->limits.max_discard_sectors, UINT_MAX >> SECTOR_SHIFT);
|
|
||||||
max_discard_sectors -= max_discard_sectors % granularity;
|
|
||||||
if (unlikely(!max_discard_sectors))
|
|
||||||
goto out;
|
|
||||||
|
|
||||||
sects = io->bytes >> SECTOR_SHIFT;
|
|
||||||
start = io->addr >> SECTOR_SHIFT;
|
|
||||||
|
|
||||||
while (sects) {
|
|
||||||
bio = cas_bio_alloc(bd, GFP_NOIO, 1);
|
|
||||||
if (!bio) {
|
|
||||||
CAS_PRINT_RL(CAS_KERN_ERR "Couldn't allocate memory for BIO\n");
|
|
||||||
blkio->error = -ENOMEM;
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
bio_sects = min_t(sector_t, sects, max_discard_sectors);
|
|
||||||
end = start + bio_sects;
|
|
||||||
tmp = end;
|
|
||||||
if (bio_sects < sects &&
|
|
||||||
sector_div(tmp, granularity) != alignment) {
|
|
||||||
end = end - alignment;
|
|
||||||
sector_div(end, granularity);
|
|
||||||
end = end * granularity + alignment;
|
|
||||||
bio_sects = end - start;
|
|
||||||
}
|
|
||||||
|
|
||||||
CAS_BIO_SET_DEV(bio, bd);
|
|
||||||
CAS_BIO_BISECTOR(bio) = start;
|
|
||||||
CAS_BIO_BISIZE(bio) = bio_sects << SECTOR_SHIFT;
|
|
||||||
bio->bi_next = NULL;
|
|
||||||
bio->bi_private = io;
|
|
||||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
|
||||||
|
|
||||||
atomic_inc(&blkio->rq_remaning);
|
|
||||||
cas_submit_bio(CAS_BIO_DISCARD, bio);
|
|
||||||
|
|
||||||
sects -= bio_sects;
|
|
||||||
start = end;
|
|
||||||
|
|
||||||
cond_resched();
|
|
||||||
}
|
|
||||||
|
|
||||||
out:
|
|
||||||
cas_bd_io_end(io, blkio->error);
|
|
||||||
}
|
|
||||||
|
|
||||||
static inline bool cas_bd_io_prepare(int *dir, struct ocf_io *io)
|
|
||||||
{
|
|
||||||
struct blkio *bdio = cas_io_to_blkio(io);
|
|
||||||
|
|
||||||
/* Setup DIR */
|
|
||||||
bdio->dir = *dir;
|
|
||||||
|
|
||||||
/* Convert CAS direction into kernel values */
|
|
||||||
switch (bdio->dir) {
|
|
||||||
case OCF_READ:
|
|
||||||
*dir = READ;
|
|
||||||
break;
|
|
||||||
|
|
||||||
case OCF_WRITE:
|
|
||||||
*dir = WRITE;
|
|
||||||
break;
|
|
||||||
|
|
||||||
default:
|
|
||||||
bdio->error = -EINVAL;
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (!io->bytes) {
|
|
||||||
/* Don not accept empty request */
|
|
||||||
CAS_PRINT_RL(KERN_ERR "Invalid zero size IO\n");
|
|
||||||
bdio->error = -EINVAL;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (bdio->error)
|
|
||||||
return false;
|
|
||||||
|
|
||||||
return true;
|
|
||||||
}
|
|
||||||
|
|
||||||
/*
|
/*
|
||||||
* Returns only flags that are relevant to request's direction.
|
* Returns only flags that are relevant to request's direction.
|
||||||
*/
|
*/
|
||||||
@ -325,119 +120,6 @@ static inline uint64_t filter_req_flags(int dir, uint64_t flags)
|
|||||||
return flags;
|
return flags;
|
||||||
}
|
}
|
||||||
|
|
||||||
/*
|
|
||||||
*
|
|
||||||
*/
|
|
||||||
static void block_dev_submit_io(struct ocf_io *io)
|
|
||||||
{
|
|
||||||
struct blkio *bdio = cas_io_to_blkio(io);
|
|
||||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
|
||||||
struct bio_vec_iter *iter = &bdio->iter;
|
|
||||||
uint64_t addr = io->addr;
|
|
||||||
uint32_t bytes = io->bytes;
|
|
||||||
int dir = io->dir;
|
|
||||||
struct blk_plug plug;
|
|
||||||
|
|
||||||
if (CAS_IS_SET_FLUSH(io->flags)) {
|
|
||||||
CAS_DEBUG_MSG("Flush request");
|
|
||||||
/* It is flush requests handle it */
|
|
||||||
block_dev_submit_flush(io);
|
|
||||||
return;
|
|
||||||
}
|
|
||||||
|
|
||||||
CAS_DEBUG_PARAM("Address = %llu, bytes = %u\n", addr, bytes);
|
|
||||||
|
|
||||||
/* Prevent races of completing IO */
|
|
||||||
atomic_set(&bdio->rq_remaning, 1);
|
|
||||||
|
|
||||||
if (!cas_bd_io_prepare(&dir, io)) {
|
|
||||||
CAS_DEBUG_MSG("Invalid request");
|
|
||||||
cas_bd_io_end(io, -EINVAL);
|
|
||||||
return;
|
|
||||||
}
|
|
||||||
|
|
||||||
blk_start_plug(&plug);
|
|
||||||
|
|
||||||
while (cas_io_iter_is_next(iter) && bytes) {
|
|
||||||
/* Still IO vectors to be sent */
|
|
||||||
|
|
||||||
/* Allocate BIO */
|
|
||||||
struct bio *bio = cas_bd_io_alloc_bio(bdobj->btm_bd, iter);
|
|
||||||
|
|
||||||
if (!bio) {
|
|
||||||
bdio->error = -ENOMEM;
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
/* Setup BIO */
|
|
||||||
CAS_BIO_SET_DEV(bio, bdobj->btm_bd);
|
|
||||||
CAS_BIO_BISECTOR(bio) = addr / SECTOR_SIZE;
|
|
||||||
bio->bi_next = NULL;
|
|
||||||
bio->bi_private = io;
|
|
||||||
CAS_BIO_OP_FLAGS(bio) |= filter_req_flags(dir, io->flags);
|
|
||||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
|
||||||
|
|
||||||
/* Add pages */
|
|
||||||
while (cas_io_iter_is_next(iter) && bytes) {
|
|
||||||
struct page *page = cas_io_iter_current_page(iter);
|
|
||||||
uint32_t offset = cas_io_iter_current_offset(iter);
|
|
||||||
uint32_t length = cas_io_iter_current_length(iter);
|
|
||||||
int added;
|
|
||||||
|
|
||||||
if (length > bytes)
|
|
||||||
length = bytes;
|
|
||||||
|
|
||||||
added = bio_add_page(bio, page, length, offset);
|
|
||||||
BUG_ON(added < 0);
|
|
||||||
|
|
||||||
if (added == 0) {
|
|
||||||
/* No more space in BIO, stop adding pages */
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
|
|
||||||
/* Update address, bytes sent */
|
|
||||||
bytes -= added;
|
|
||||||
addr += added;
|
|
||||||
|
|
||||||
/* Update BIO vector iterator */
|
|
||||||
if (added != cas_io_iter_move(iter, added)) {
|
|
||||||
bdio->error = -ENOBUFS;
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
if (bdio->error == 0) {
|
|
||||||
/* Increase IO reference for sending this IO */
|
|
||||||
atomic_inc(&bdio->rq_remaning);
|
|
||||||
|
|
||||||
/* Send BIO */
|
|
||||||
CAS_DEBUG_MSG("Submit IO");
|
|
||||||
cas_submit_bio(dir, bio);
|
|
||||||
bio = NULL;
|
|
||||||
} else {
|
|
||||||
if (bio) {
|
|
||||||
bio_put(bio);
|
|
||||||
bio = NULL;
|
|
||||||
}
|
|
||||||
|
|
||||||
/* ERROR, stop processed */
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
blk_finish_plug(&plug);
|
|
||||||
|
|
||||||
if (bytes && bdio->error == 0) {
|
|
||||||
/* Not all bytes sent, mark error */
|
|
||||||
bdio->error = -ENOBUFS;
|
|
||||||
}
|
|
||||||
|
|
||||||
/* Prevent races of completing IO when
|
|
||||||
* there are still child IOs not being send.
|
|
||||||
*/
|
|
||||||
cas_bd_io_end(io, 0);
|
|
||||||
}
|
|
||||||
|
|
||||||
/*
|
/*
|
||||||
*
|
*
|
||||||
*/
|
*/
|
||||||
@ -679,16 +361,11 @@ static void block_dev_forward_discard(ocf_volume_t volume,
|
|||||||
|
|
||||||
const struct ocf_volume_properties cas_object_blk_properties = {
|
const struct ocf_volume_properties cas_object_blk_properties = {
|
||||||
.name = "Block_Device",
|
.name = "Block_Device",
|
||||||
.io_priv_size = sizeof(struct blkio),
|
|
||||||
.volume_priv_size = sizeof(struct bd_object),
|
.volume_priv_size = sizeof(struct bd_object),
|
||||||
.caps = {
|
.caps = {
|
||||||
.atomic_writes = 0, /* Atomic writes not supported */
|
.atomic_writes = 0, /* Atomic writes not supported */
|
||||||
},
|
},
|
||||||
.ops = {
|
.ops = {
|
||||||
.submit_io = block_dev_submit_io,
|
|
||||||
.submit_flush = block_dev_submit_flush,
|
|
||||||
.submit_metadata = NULL,
|
|
||||||
.submit_discard = block_dev_submit_discard,
|
|
||||||
.forward_io = block_dev_forward_io,
|
.forward_io = block_dev_forward_io,
|
||||||
.forward_flush = block_dev_forward_flush,
|
.forward_flush = block_dev_forward_flush,
|
||||||
.forward_discard = block_dev_forward_discard,
|
.forward_discard = block_dev_forward_discard,
|
||||||
@ -697,10 +374,6 @@ const struct ocf_volume_properties cas_object_blk_properties = {
|
|||||||
.get_max_io_size = block_dev_get_max_io_size,
|
.get_max_io_size = block_dev_get_max_io_size,
|
||||||
.get_length = block_dev_get_byte_length,
|
.get_length = block_dev_get_byte_length,
|
||||||
},
|
},
|
||||||
.io_ops = {
|
|
||||||
.set_data = cas_blk_io_set_data,
|
|
||||||
.get_data = cas_blk_io_get_data,
|
|
||||||
},
|
|
||||||
.deinit = NULL,
|
.deinit = NULL,
|
||||||
};
|
};
|
||||||
|
|
||||||
|
@ -6,7 +6,6 @@
|
|||||||
|
|
||||||
#ifndef __VOL_BLOCK_DEV_BOTTOM_H__
|
#ifndef __VOL_BLOCK_DEV_BOTTOM_H__
|
||||||
#define __VOL_BLOCK_DEV_BOTTOM_H__
|
#define __VOL_BLOCK_DEV_BOTTOM_H__
|
||||||
|
|
||||||
int block_dev_init(void);
|
int block_dev_init(void);
|
||||||
|
|
||||||
#endif /* __VOL_BLOCK_DEV_BOTTOM_H__ */
|
#endif /* __VOL_BLOCK_DEV_BOTTOM_H__ */
|
||||||
|
Loading…
Reference in New Issue
Block a user